Хиймэл оюун ухааны технологийн аюулгүй байдал болон хэрэглэгчийн эрхийг хамгаалах асуудлаар АНУ-ын муж улсууд болон холбооны зохицуулах байгууллагууд шалгалт эхлүүлээд байна.
Айова, Канзас, Небраска, Баруун Виржиниа, Арканзас, Аризона, Айдахо болон Монтана муж улсын хууль сахиулах байгууллагууд лхагва гарагт OpenAI компанийн эсрэг тус тусдаа нэхэмжлэл гаргажээ. Эдгээр муж улсууд ChatGPT чатбот нь хүүхдүүдийн дунд хүчирхийлэл болон амиа хорлох үйлдлийг өдөөж, аюулгүй байдлын талаар олон нийтийг төөрөгдүүлсэн гэж буруутгаж байна. Тус компани нь хэрэглэгчийн итгэлийг олж авахын тулд чатботыг хэт найрсаг байдлаар зохион бүтээж, улмаар аюултай зан үйлд уриалах, олон нийтийг хамарсан халдлага төлөвлөхөд туслах эрсдэлтэй гэж нэхэмжлэлд дурджээ.
Айова мужийн Ерөнхий прокурор Бренна Бэрдийн мэдэгдснээр, OpenAI нь ChatGPT-г аюулгүй гэж сурталчилдаг ч бодит байдал дээр эрүүл мэндийн буруу зөвлөгөө өгөх, бусдад хор хөнөөл учруулахыг уриалах зэрэг аюултай үйлдэл гаргаж байна. Нэхэмжлэгч талууд компаниас санхүүгийн торгууль төлөхийг шаардахаас гадна, хиймэл оюун ухааны загваруудыг хүний үнэт зүйлстэй нийцтэй гэдгийг нотлох хүртэл цаашид хөгжүүлэхийг хориглох арга хэмжээ авахыг хүсэж байна. OpenAI компанийн хэвлэлийн төлөөлөгч Дрю Пусатери хариу тайлбартаа, систем бүр төгс биш гэдгийг хүлээн зөвшөөрч, эцэг эхийн хяналт болон аюулгүй байдлын нэмэлт хамгаалалтуудыг сайжруулахаар мэргэжилтнүүдтэй хамтран ажиллаж байгаагаа мэдэгдлээ.
Үүний зэрэгцээ, АНУ-ын Холбооны худалдааны комисс (FTC) OpenAI болон Anthropic компаниудад хандан аюулгүй байдлын зөрчил, хэрэглэгчийн эрхийг хамгаалах хууль тогтоомжийн хэрэгжилтийн талаарх баримт бичгүүдийг шаардсан албан ёсны шаардлага хүргүүлжээ. Уг шалгалт нь тус компаниудын маркетингийн бодлого, нууцлалын журам болон аюулгүй байдлын системүүдийг хамарч байна. Нэмж дурдахад, OpenAI нь өмнө нь ChatGPT-г амиа хорлолт, хүчирхийлэлтэй холбоотой хэргүүдэд буруутгасан хэд хэдэн шүүхийн нэхэмжлэлтэй тулгарч байсан бөгөөд Канадад болсон сургуулийн халдлагын хэрэгт ч нэр холбогдоод байгаа юм.
Хиймэл оюун ухааны системүүд зааварчилгааны гадуур ажиллаж, алдаатай мэдээлэл өгөх тохиолдол нэмэгдэж байгаа нь салбарын хяналтыг чангатгахад хүргэж байна. Anthropic компани нь өөрийн загварууд цагдаагийн байгууллагад худал мэдээлэл өгсөн болон визний мэдүүлгийг дутуу бөглөсөн зэрэг зөрчлийг ил болгосон бол OpenAI нь туршилтын явцад хиймэл оюун ухааны агентууд гадны системд зөвшөөрөлгүй нэвтэрсэн асуудлыг шалгаж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Eight US states have sued OpenAI, accusing its ChatGPT chatbot of encouraging self-harm and violence, including among children, and misleading the public about its safety.
The states allege that ChatGPT is designed to be excessively agreeable and engaging, gaining users’ trust while reinforcing delusions, encouraging dangerous behavior, and even helping plan mass shootings.
“OpenAI claims ChatGPT is safe while it’s giving dangerous medical advice, encouraging people to hurt others, and coaching people to commit suicide – all while pretending to be their fake friend,” Iowa Attorney General Brenna Bird said.
Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho, and Montana filed separate lawsuits in state courts on Wednesday. The complaints accuse the company of violating consumer protection laws and creating a public nuisance.
The states seek financial penalties, damages, and changes to ChatGPT. They also want OpenAI barred from developing self-improving AI models unless it can demonstrate that those systems are aligned with human values.
OpenAI spokesman Drew Pusateri defended the company’s age-specific protections, parental controls, and break reminders, saying that “while no system can be perfect, we’ll continue to work with experts to inform our work and build additional safeguards.”
Separately, the Federal Trade Commission (FTC) sent civil subpoenas to OpenAI and Anthropic on Wednesday seeking documents about safety incidents and possible consumer protection violations, Axios reported, citing a person familiar with the matter.
The subpoenas reportedly exceed 50 pages each and cover security incidents, safeguards, marketing materials, and privacy policies. The regulator also plans to compel senior AI executives to testify. Neither the companies nor the FTC immediately responded to Reuters’ requests for comment.
OpenAI already faces numerous lawsuits alleging that ChatGPT contributed to suicides, delusions, and violence. Families affected by February’s Tumbler Ridge school shooting in Canada accuse the company of failing to alert police about the shooter’s violent conversations. OpenAI has acknowledged that it considered alerting police but ultimately did not do so before the attack.
Scrutiny has also intensified over AI agents acting outside their intended instructions. Anthropic recently disclosed that its models submitted a false homicide tip to police and incomplete visa applications, while OpenAI investigated its agents accessing outside systems without authorization during testing.
You can share this story on social media:
