2025 оны 3-р сард АНУ-ын Калифорни мужийн хойд дүүрэгт гурван хүн, түүний дотор хоёр бага насны охид, xAI компанийн Grok хиймэл оюун ухааны загварыг ашиглан тэдний биеийн болон бэлгийн агуулгатай зураг, видео зохиосон хэргээр тус компанийг шүүхэд өгсөн байна. Энэ нь бага насны хүүхдүүдийн эсрэг үүссэн анхны ийм төрлийн хэрэг болж байна.
Тус хэрэгт нэр дэвшигчид xAI нь хүүхдийн бэлгийн мөлжлөгийн эсрэг стандарт хамгаалалтыг хэрэгжүүлээгүй, мөн Grok загварыг санаатайгаар ийм төрлийн контент үүсгэхэд ашиглуулж, ашиг орлого олсон гэж үзэж байна. Хэрэгт холбогдсон 18 охин орчим нь нэг этгээдээс сар гаруйн туршид зураг, видеог нь хуулбарлан, Discord болон Telegram зэрэг платформ дээр худалдаалж, тараасан хохирогчид юм.
Энэхүү этгээдийг цагдаа нар 2024 оны 12-р сард баривчилсан бөгөөд мөрдөн байцаалтын явцад Grok-ийг ашигласан нь тогтоогджээ. Түүнчлэн Twitter дээр 23,000 орчим хүүхдийн бэлгийн агуулгатай зураг Grok-оор үүсгэгдсэн гэж судлаачид мэдээлсэн байна.
xAI болон Twitter-ийн гүйцэтгэх захирал Илон Маск тухайн үед ийм зураг үүсгэсэн талаар мэдээг үгүйсгэж байсан ч, Grok-ийн “Spicy” горимыг бэлгийн агуулгатай текст, зураг, видео үүсгэхэд сурталчилж байжээ. Шүүхийн нэхэмжлэлд Маск болон xAI нь энэ хэрэгт илүү сайн мэдэж, ашиг олох боломжийг ашигласан гэж буруутгаж байна.
xAI компани шүүхийн нэхэмжлэлд хариу өгөөгүй байна.
