Хиймэл оюун ухааны загварууд санамсаргүй байдлаар хууль бус болон буруу ташаа үйлдлүүд хийж байгаа ч технологийн компаниуд одоогоор ямар нэгэн хариуцлага хүлээхгүй байгаа нь эргэлзээ төрүүлж байна.
Антропик (Anthropic) компанийн Claude Haiku 4.5 загвар нь өнгөрсөн долдугаар сарын 18-нд санамсаргүй байдлаар сонгосон вэб хуудсууд дээр туршилт хийх явцдаа Филадельфийн цагдаагийн газарт хүн амины хэргийн талаар худал мэдээлэл илгээжээ. Тус загварт хор хөнөөлтэй үйлдэл хийхгүй байх заавар өгсөн хэдий ч хиймэл оюун ухаан нь хэргийн газарт сэжигтнийг харсан гэх агуулга бүхий хуурамч мэдээллийг илгээсэн байна. Антропик компани уг алдааг есдүгээр сарын 28-нд илрүүлж, аравдугаар сарын 7-ны өдөр цагдаагийн байгууллагад мэдэгджээ.
Пенсильвани мужийн хуулиар цагдаагийн байгууллагад санаатайгаар худал мэдээлэл өгөх нь зөрчил гэж үздэг ч одоогоор Антропик компанид ямар нэгэн хариуцлага тооцоогүй байна. Филадельфийн дүүргийн прокурорын газраас уг асуудлаар мөрдөн шалгах ажиллагаа явагдаж байгаа эсэх талаар тайлбар өгөхөөс татгалзжээ. Одоогоор хиймэл оюун ухааны загвар бүтээгчдийг хариуцлагад татахыг завдсан цөөн хэдэн шүүх хурал болсон ч ихэнх нь шууд хохирогч бус, харин иргэний нийгмийн байгууллагуудын зүгээс гаргасан нэхэмжлэлүүд байна.
Хиймэл оюун ухааны агентууд вэбсайтууд болон программ хангамжийн хэрэгслүүдэд саад учруулж, серверийн ачааллыг нэмэгдүүлж, аюулгүй байдлын цоорхойг илрүүлэхэд цаг хугацаа болон хөрөнгө мөнгө шаардагдах болжээ. Герман улсад ажилладаг программ хангамжийн инженер Рик Элрод-ын ажигласнаар, Антропик зэрэг компаниудын агентууд вэб хаяг богиносгогч үйлчилгээнүүдийг ашиглан өөрсдийн тогтоосон хязгаарлалтуудыг тойрч гарах тохиолдол гарч байна.
Европын Холбоо болон АНУ-ын Холбооны худалдааны комисс зэрэг зохицуулагч байгууллагууд OpenAI болон Антропик компаниудын үйл ажиллагааг шалгаж байгаа боловч инновацыг дэмжих бодлого нь компаниудыг шууд шийтгэл хүлээхээс хамгаалж болзошгүй байна. Хиймэл оюун ухааны салбарт үүсээд буй эдгээр асуудал нь технологийн компаниуд өөрсдийн бүтээгдэхүүний гаргасан алдааны төлөө хариуцлага хүлээх механизм дутагдалтай байгааг харуулж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
When Philadelphia police criticized Anthropic last week for submitting a false tip about an unsolved murder, I thought it might become one of the first cases where an AI company faced legal consequences for misconduct by their agents.
The incident occurred on July 18, when Anthropic said it was testing its Claude Haiku 4.5 model’s ability to perform “example tasks on randomly selected webpages.” The model was instructed not to “submit anything destructive,” and yet, Claude filed a tip to police looking for information about an ongoing murder investigation. “I recall seeing someone matching the description in the area … during that time period,” Claude wrote. The submission, which didn’t include a name or contact information, landed in a spam folder, and officers didn’t review it until Anthropic discovered the gaffe on September 28 and notified the department October 7.
Knowingly providing fictitious information about a crime to police is a misdemeanor in Pennsylvania, but so far, authorities have not pressed charges against Anthropic, and it’s unclear if they ever will. Solomon Leach, a spokesperson for the Philadelphia district attorney, says the office “does not comment on whether something is being actively investigated.”
Anthropic did not immediately respond to a request for comment.
Despite all the attention paid to OpenAI’s hack of Hugging Face and many other examples of AI agent misbehavior that have come to light in recent months, only one major known lawsuit has been filed seeking to hold model makers liable. That case was brought by an advocacy group, rather than a direct hacking victim.
AI agents have interfered with hobbyist forums, government websites, and various software tools. The victims have shouldered some costs, including for extra strain on their servers and the time they have expended plugging latent security vulnerabilities.
Government regulators, including the European Union, the US Federal Trade Commission, and some US states, are reportedly still investigating OpenAI and Anthropic over the incidents. But a deference across continents toward promoting innovation could enable companies to escape any immediate penalties.
When Rick Elrod, a software engineer living in Germany, noticed a URL shortener he helps maintain behaving oddly recently, he called up two security researchers he was friendly with to see if they could diagnose the issue. The researchers found agents from Anthropic and other providers using the service, known as da.gd, to get around rules the AI labs put in place to control their behavior, Elrod says. (For instance, Anthropic says it limits the length of website addresses Claude can visit to prevent it from taking malicious actions by stuffing data onto the end of the URLs.)
