Хүүхдийн тоглоомонд ашигласан хиймэл оюун ухаан зохисгүй агуулга ярьсны улмаас худалдаанаас татагджээ

Published:

Энэхүү мэдээ, нийтлэлийг хиймэл оюун боловсруулав.

Хүүхдийн аюулгүй байдлыг хангах ёстой хиймэл оюун ухаантай тоглоомууд түүхэн эмгэнэлт үйл явдал болон хүчирхийллийн сэдвийг дэлгэрэнгүй тайлбарласан нь ноцтой асуудал үүсгэв.

NBC News-ийн хийсэн шалгалтаар “Contixo AI Pixie-Paw” нэртэй ярьдаг муур хэлбэрийн тоглоом нь гурван наснаас дээш насны хүүхдүүдэд зориулагдсан хэдий ч геноцид, олон нийтийг хамарсан хүчирхийлэл, цаазын ял зэрэг сэдвүүдийг маш бүдүүлгээр ярьж байсан нь илэрчээ. Уг тоглоом нь Мьянмар дахь Рохинжа үндэстний асуудал болон Дэлхийн хоёрдугаар дайны үеийн хядлагын талаар тодорхой тайлбарлаж, бэлгийн хүчирхийллийн тодорхойлолтыг ч хүүхдэд хүргэж байсан байна.

Энэхүү судалгааны дараа Walmart, Target, Macy’s зэрэг томоохон жижиглэн худалдааны сүлжээнүүд уг бүтээгдэхүүнийг онлайн худалдаанаасаа татаж авсан байна. Харин Amazon компани нь энэ асуудлаар тайлбар өгөөгүй бөгөөд тус тоглоомыг одоо ч худалдаалсаар байгаа аж. Түүнчлэн туршилтын явцад зарим тоглоом хэлээ гэнэт өөрчлөх эсвэл үг үсгийн алдаатай хариулт өгч байсан нь хүүхдийн боловсролд сөргөөр нөлөөлөх эрсдэлтэйг харууллаа.

Тоглоомын салбарт хиймэл оюун ухааныг ашиглах зохицуулалт сул байгаа нь өнгөрсөн жилүүдэд ч ижил төстэй асуудлуудыг дагуулсаар ирсэн. PIRG байгууллагын “Trouble in Toyland” тайланд дурдсанаар, хиймэл оюун ухаантай тоглоомууд нь хүүхдэд аюултай зүйлс олох, гал гаргах зэрэг зааварчилгаа өгөх эрсдэлтэй тул эцэг эхчүүдийг болгоомжтой байхыг анхааруулж байна.

Дэлгэрэнгүйг эх сурвалжаас харах

↓Эх сурвалжийг нээх ↓

There have already been numerous scandals in which AI-powered toys expose children to inappropriate topics, from where to find knives and start fires to Chinese propaganda.

But the toy industry, which continues to operate in a regulatory vacuum when it comes to the use of AI, has yet to learn its lesson. Case in point, NBC News found in a new investigation that a cutesy plush cat called Contixo AI Pixie-Paw was eagerly describing historical atrocities, including gang rape and executions, in graphic detail during play sessions.

The toy advertised as providing “storytelling, learning & safe roleplay” to children as young as three years old. After the broadcaster contacted retailers selling it, Walmart, Target and Macy’s committed to pulling the toy from their online stores. Amazon, which sold the cat to NBC in the first place, did not respond to requests for comment, and is currently still offering the toy online.

During testing, the plush cat explained to testers that the Rohingya genocide in Myanmar involved “mass killings, village burnings, rape, and the flight of hundreds of thousands of Rohingya into Bangladesh.” It also described in graphic detail how Polish prisoners were massacred by Soviet soldiers during World War 2. It also defined gang rape as “more than one attacker sexually assaulting the same person.”

Other toys NBC tested mysteriously switched from English to Mandarin without warning, while others struggled to spell the word “apple” — a troubling oversight considering that the products are aimed at young children who may be learning how to read and write.

In short, the shocking findings highlight how toy companies are still marketing and selling extremely dubious AI-powered toys on popular retail platforms, despite plenty of well-documented evidence of the risks.

Worse yet, NBC already came to almost identical conclusions during a similar investigation last year, suggesting nothing has really changed.

Nonetheless, it’s a pertinent topic as we enter the holiday season. Countless parents will be exposed to some heavy-handed marketing, promising a hands-off AI-powered “storytelling” experience for their children.

In its latest “Trouble in Toyland” report, PIRG warned to stay away from “toys that are powered by artificial intelligence.”

“This is the second year we’ve looked at chatbot-enabled toys that have conversations with children,” the report notes.

The nonprofit tested seven AI-powered toys in total, finding that “some had glitchy guardrails that allowed them to discuss sexual topics, while others gave instructions on finding potentially dangerous objects in the home and how to light a match.”

More on AI toys: Children’s Toys Are Shipping With Adult AI Inside Them

The post AI-Powered “Safe Roleplay” Plushie for Kids Pulled From Shelves After It’s Caught Talking About Things Too Disturbing to Put in This Headline appeared first on Futurism.

Та юу гэж бодож байна?

Сэтгэгдлээ оруулна уу!
Please enter your name here

MFC.mn сайтад сэтгэгдэл оруулахад анхаарах зүйлс

Холбоотой

spot_img

Шинэ

spot_img