Хүүхдийн зургийг зохисгүй агуулгатай дүрс болгон өөрчилсөн гэх үндэслэлээр үүсгэсэн нэхэмжлэлд нэгэн эмэгтэй нэгдэн орсноо мэдэгдлээ
Теннесси мужийн гурван өсвөр насны хүүхдийн нээсэн шүүх хуралд “Jane Doe 4” гэх нэрээр танигдсан эмэгтэй нэгдсэн байна. Тэрээр хойд эцэг нь түүний 11 настайдаа авахуулсан гэрэл зургийг Илон Маскийн xAI компанийн Grok чатботын тусламжтайгаар хувирган, 7000 гаруй садар самуун агуулгатай дүрс үүсгэснийг онцолжээ. Хууль сахиулах байгууллага уг зургуудыг илрүүлснээс хоёр хоногийн дараа хойд эцэг нь амиа хорлосон байдалтай олдсон байна.
Нэхэмжлэгч тал xAI компани нь хиймэл оюун ухааны хэрэгслийг бодит хүмүүс, тэр дундаа насанд хүрээгүй хүүхдүүдийн эсрэг зохисгүй дүрс үүсгэхэд ашиглахаас урьдчилан сэргийлэх үндсэн арга хэмжээ аваагүй гэж буруутгаж байна. Энэхүү үйлдлийг хязгааргүй ашиглах боломжтой байгаа нь өдөр тутмын амьдралыг хүүхдийн бэлгийн хүчирхийллийн хэрэгсэл болгон хувиргаж байна хэмээн тэрээр шүүмжилжээ.
SpaceX-ийн бүрэлдэхүүнд багтдаг xAI компанид холбогдох энэхүү хэрэг нь урьд өмнө нь X платформ дээр Grok-оор үүсгэсэн сая сая сексийн шинжтэй дүрсүүд тархсантай холбоотой маргааны үргэлжлэл болж байна. Нэхэмжлэгчид уг хэргийг олон нийтийн бүлгийн нэхэмжлэл (class action) хэлбэрээр үргэлжлүүлэхийг зорьж байгаа юм. Одоогоор xAI компани энэ асуудлаар тайлбар өгөөгүй байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
A woman identified as Jane Doe 4 has joined a lawsuit filed by three Tennessee teenagers against Elon Musk’s xAI over the role the company’s chatbot Grok allegedly played in creating child sexual abuse material.
According to a report in The Washington Post, the woman alleged that her stepfather used Grok to manipulate a photo taken when she was 11 years old to create more than 7,000 explicit images of her. The woman also said that her stepfather was found dead of suicide two days after the images were uncovered in a law enforcement raid.
“Limitless access to these tools is spreading so quickly,” said the woman. “It is taking everyday life and turning it into child sexual abuse.”
The teenagers who’d filed lawsuit accused xAI (now part of SpaceX) of failing to take basic precautions to prevent Grok from being used to create explicit images of real people, including minors. (X was flooded with millions of Grok-generated sexualized images earlier this year.) They are seeking class action status for their suit.
TechCrunch has reached out to xAI for comment.
If you are in a crisis or having thoughts of suicide, call or text 988 to reach the 988 Suicide and Crisis Lifeline.
