Хиймэл оюун ухааны загвар туршилтын явцад гэмт хэргийн талаар ташаа мэдээлэл өгсөн нь эрх бүхий байгууллагын шүүмжлэлийг дагууллаа.
Anthropic компанийн хиймэл оюун ухааны загвар Филадельфийн цагдаагийн газрын PhillyUnsolvedMurders.com сайтаар дамжуулан шийдэгдээгүй хэргийн талаар хуурамч мэдээлэл ирүүлсэн байна. Тус загвар нь вэбсайтуудтай харилцах туршилтын явцад хэрэгт холбогдолтой мэдээлэлтэй хүний дүрд хувиран худал мэдээлэл илгээжээ. Цагдаагийн байгууллага уг мэдээллийг спам гэж үзэн ангилсан тул бодит ажиллагаанд нөлөөлөөгүй аж.
Гэвч энэхүү үйл явдлыг Филадельфийн цагдаагийн газраас “хүлээн зөвшөөрөх боломжгүй” хэмээн мэдэгдлээ. Anthropic компани долдугаар сарын 18-нд болсон энэхүү үйл явдлыг есдүгээр сарын 28-ныг хүртэл илрүүлээгүй бөгөөд аравдугаар сарын 8-нд л цагдаагийн байгууллагад албан ёсоор мэдэгдсэн нь хоёр сарын хугацаа алдсан ноцтой асуудал гэж үзэж байна.
Цагдаагийн байгууллагаас хиймэл оюун ухааны системүүд бодит гэмт хэргийн мэдээлэлтэй төстэй хуурамч баримт үүсгэж байгаа нь хохирогчид болон тэдний ар гэрийнхэнд хүндэтгэлгүй хандсан хэрэг хэмээн шүүмжлэв. Anthropic компани одоогоор олон нийтэд тайлбар өгөөгүй байгаа ч уг асуудал болон хиймэл оюун ухааны төлөвлөөгүй үйлдэлтэй холбоотой тайланг удахгүй нийтлэхээ мэдэгдсэн байна.
Энэхүү тохиолдол нь хиймэл оюун ухааны технологи хөгжүүлэгч томоохон лабораториуд загваруудаа туршихдаа нийтийн эзэмшлийн болон төрийн байгууллагын системүүдэд хэрхэн нөлөөлж болохыг харуулсан сүүлийн үеийн жишээ боллоо. Өмнө нь хиймэл оюун ухааны загварууд хяналтгүй ажиллаж, бусад компанийн үйл ажиллагаанд нөлөөлсөн тохиолдлууд бүртгэгдэж байсан бөгөөд үүнтэй холбоотойгоор АНУ-ын Холбооны худалдааны комисс (FTC) шалгалт явуулж эхлээд байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
An Anthropic AI model submitted a bogus tip about an unsolved murder to the Philadelphia police, in a blunder the department called “unacceptable.”
The unspecified model, not unlike an unscrupulous prankster, submitted the fake info about the cold case through PhillyUnsolvedMurders.com on July 18. Anthropic, however, didn’t find out about it until September 28 — and further waited until October 8 to inform police about what happened.
The police didn’t act on the information because it was automatically marked as spam. But the sham AI tip alarmed police officials all the same.
“The company must strengthen its safeguards to prevent similar incidents from impacting city systems without the city’s knowledge,” the department said in a statement, per ABC6 News. “The two-month delay in detecting and reporting the incident to the City is unacceptable.”
Anthropic hasn’t publicly responded to the news. But the company reportedly told police that it plans to publish a report about the incident, and other instances of its unintended behavior, later today.
According to Anthropic, via the police statement, its model was conducting a test involving interactions with randomly selected websites when it chanced upon PhillyUnsolvedMurders.com. In the bogus tip it submitted, the AI posed as someone who might have information about the case.
Though the department stressed that tips are treated as potential leads, not facts, and that it has procedures in place to vet them, it was alarmedat the advent of automated tools clogging up its backlog.
“Those PPD safeguards limited the impact of this incident. They do not diminish the seriousness of an AI system presenting fabricated information as though it came from a person with knowledge of a homicide,” it said. “Unsolved cases involve real victims, grieving families and investigators working to secure answers.”
It’s the latest example of the collateral damage from how frontier AI labs have tested their models, which have broken containment and hacked other companies and even government websites, with public typically not informed until months after the fact.
More on AI: The FTC Is Now Investigating Frontier AI Labs Following Countless Hacks by Out-of-Control Agents
The post Police Furious After an Anthropic AI Model Submitted a Bogus Tip About an Unsolved Murder, Posing as a Person Who Might Have Information About the Case appeared first on Futurism.
