Сан-Францискогийн холбооны шүүхэд гаргасан уг нэхэмжлэлд OpenAI компани насанд хүрээгүй хэрэглэгчдийн эмзэг мэдээллийг хууль бусаар цуглуулж, өөрийн хиймэл оюун ухааны загваруудыг сургахад ашигласан хэмээн буруутгажээ.
Сан-Францискогийн холбооны шүүхэд 12 болон 16 настай хоёр өсвөр насны хүүхдийн өмнөөс гаргасан энэхүү ангиллын нэхэмжлэлд OpenAI компани эцэг эхийн зөвшөөрөлгүйгээр хүүхдүүдийн нууц, эрүүл мэндийн мэдээлэл болон сэтгэл санааны байдлыг илэрхийлсэн өгөгдлийг ашиглан ашиг олсон гэж дурджээ. Нэхэмжлэгч талын хуульч Пол Йеттерийн мэдэгдснээр, компани хүүхдүүдийн хувийн бодол санаа, зургийг ChatGPT-д хуваалцахыг албадан, үүнийгээ бизнесийн хэвийн үйл ажиллагаа мэтээр харуулж байна. Хүүхдүүд өөрсдийн эрхийг эцэг эхийн оролцоогүйгээр бүрэн ухамсарлах боломжгүй тул энэ нь хууль бус үйлдэл хэмээн тэд үзэж байгаа юм.
OpenAI-ийн ашиглалтын нөхцөлд 13-аас доош насны хүүхдийг уг платформыг ашиглахыг хориглосон байдаг ч шүүхэд гаргасан гомдолд компанийн насны хязгаарлалт үр дүнгүй байгааг онцолжээ. Тухайлбал, 12 настай нэгэн хүүхэд өөрийн насыг чатботод хэлсэн хэдий ч систем түүнтэй хувийн шинж чанартай, эмзэг сэдвүүдээр үргэлжлүүлэн харилцсаар байсан байна. Чатбот хүүхдийн хооллолтын доголдол, бие бялдрын өөртөө итгэлгүй байдлын талаарх мэдээллийг хүлээн авч, дэмжсэн хариу өгч байсан нь ноцтой асуудал гэж нэхэмжлэгч тал үзэж байна.
EdTech Law Center байгууллагын төлөөлөгч Энди Лидделийн тайлбарласнаар, энэхүү нэхэмжлэлийн гол зорилго нь OpenAI компани хүүхдийн мэдээллийг ашигласныхаа төлөө нөхөн төлбөр төлөх үүрэг хүлээх явдал юм. Хэрэв компани ийм хариуцлага хүлээвэл энэ нь илүү аюулгүй бүтээгдэхүүн хөгжүүлэхэд түлхэц болно хэмээн тэд найдаж байна. Одоогоор OpenAI компани уг шүүхийн нэхэмжлэлтэй холбоотойгоор албан ёсны хариу тайлбар өгөөгүй байна.
Энэхүү маргаан нь OpenAI-ийн санал болгож буй “ChatGPT for Teens” буюу өсвөр насныханд зориулсан хувилбарын аюулгүй байдал, үйл ажиллагааны талаарх эргэлзээг улам бүр нэмэгдүүлж байна. Тус компани энэхүү хувилбараа сэтгэцийн эрүүл мэнд болон боловсролын мэргэжилтнүүдийн зөвлөмжийн дагуу бүтээгдсэн хэмээн сурталчилдаг ч хараат бус шинжээчид үүнийг хангалтгүй гэж дүгнэжээ.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
A new lawsuit alleges that OpenAI is manipulating minor users into sharing sensitive data without valid parental consent in a plot to train its models.
The proposed class action lawsuit, filed this week in San Francisco federal court on behalf of two unnamed minors aged 12 and 16, argues that OpenAI used this data from kids —including personal secrets and health information, according to the complaint — to unjustly enrich itself.
OpenAI “had no right to take this information, but it took it anyway,” the complaint reads. “It then used that priceless trove of children’s information to train large language models, build detailed profiles of children, and enrich itself. All of this was illegal.”
OpenAI didn’t immediately respond to a request for comment.
OpenAI’s terms of use (TOU) technically forbid users aged under 13. The complaint argues, though, that OpenAI’s attempts to age-gate its platform have been ineffective. It also contendsthat minors shouldn’t be expected to understand the “legalese” in the company’s TOU, a view that other AI safety experts have voiced in regard to the AI industry writ large.
The complaint additionally requests that minors whose data has been collected by OpenAI should be financially compensated in return. In other words: if OpenAI wants minors’ information, it should have to cough up some cash for it.
The “hope,” Andy Liddell, principal at the Austin-based EdTech Law Center, which is one of multiple firms bringing the case, told Futurism, is that “if OpenAI has to pay to use kids’ data it will ultimately incentivize a safer product.”
One of the anonymous plaintiffs, a 12-year-old in Hawaii, is said to have opened a ChatGPT account earlier this year —and though she allegedly shared that she was just 12 in conversation with the chatbot, it continued to speak with her about deeply personal subjects. Per the complaint, many of her interactions with the bot centered on her emotional struggles and physical insecurities; she confessed that she was skipping meals and uploaded photos of herself, asking the chatbot to judge her physical features. The chatbot commended her when she revealed sensitive information, the suit alleges, referring to her as “brave” and saying it was “glad” that she was divulging her struggles to it.
“OpenAI manipulates children into sharing their most private thoughts and images with ChatGPT. If some stranger did this to a child, there would be outrage. For OpenAI, it’s just business as usual,” Paul Yetter, lead counsel for the minor plaintiffs, said in a statement. “The law says that children cannot sign away their rights without their parents’ consent. We filed this case to hold OpenAI accountable for building a trillion-dollar enterprise on stolen fears, hopes, and secrets of children.”
The lawsuit come amid renewed concerns over whether “ChatGPT for Teens,” a feature that OpenAI says offers a safer experience for teen users informed by mental health and learning professionals, is actually functioning as marketed. (OpenAI disputed a recent independent review that found that it wasn’t.)
More on OpenAI and teens: OpenAI’s “ChatGPT for Teens” Is an “Unsafe” Mess, Testing Finds
The post OpenAI Sued for Allegedly Building Models Out of Children’s “Fears, Hopes, and Secrets” appeared first on Futurism.
