Хэрэглэгчийн энгийн постыг ёс бус, доромжилсон утгаар орчуулж буй хиймэл оюун ухааны алдаа нь X платформын технологийн найдвартай байдалд эргэлзээ төрүүлж байна.
Дөрөвдүгээр сард Илон Маскийн эзэмшдэг X платформ өөрийн хиймэл оюун ухаан бүхий Grok чатботын автомат орчуулгын функцийг бүх хэрэглэгчдэд нэвтрүүлсэн юм. Гэвч тус функц нь хэрэглэгчдийн энгийн, утга төгөлдөр нийтлэлүүдийг огт өөр, ёс бус, бүдүүлэг үг хэллэгээр орчуулж байгаа нь олон нийтийн шүүмжлэлийг дагуулж байна. Тухайлбал, видео тоглоомын дүрс бичлэг эсвэл муурын зулзаганы зураг зэргийг Grok хэт бүдүүлэг, ёс зүйгүй утгаар буулгасан тохиолдлууд олноор бүртгэгджээ.
Энэхүү асуудал нь 2022 онд Илон Маск платформыг худалдаж авснаас хойш X-д тулгарч буй үзэн ядалт, ташаа мэдээлэл болон хиймэл оюун ухааны ёс зүйн доголдолтой холбоотой шүүмжлэлийг улам бүр лавшруулж байна. Судлаачид X-ийн хиймэл оюун ухааны загварууд нь арьс өнгөөр ялгаварлан гадуурхах хандлагыг дэврээж байгааг анхааруулсаар ирсэн. Мөн өмнө нь Grok-ийг зөвшөөрөлгүйгээр хиймэл оюун ухаанаар бүтээсэн нүцгэн зураг үүсгэх, бага насны хүүхдийн дүрс бүхий ёс бус контент түгээхэд ашигласан гэх дуулиан дэгдэж байв.
Одоогийн байдлаар Grok-ийн гаргаж буй алдаатай орчуулгууд нь тус платформын хиймэл оюун ухааны технологийн хөгжүүлэлт болон хяналтын тогтолцоо хангалтгүй байгааг харуулж байна. Хэрэглэгчид болон шинжээчид энэхүү чатботын бүдүүлэг алдааг платформын ерөнхий нөхцөл байдлын нэгээхэн хэсэг хэмээн дүгнэж байгаа бөгөөд энэ нь цаашид технологийн салбарт хиймэл оюун ухааныг ашиглахад ёс зүйн хатуу хяналт зайлшгүй хэрэгтэйг сануулж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Elon Musk’s AI chatbot Grok has long garnered a reputation for experiencing horrifically racist meltdowns, enabling child abuse, and doxxing users’ home addresses.
It should come as no surprise, then, that its supposed “translation” is a piece of work, too. In April, the almost-trillionaire’s social media platform X instated automatic AI translations for all of its users — and the results certainly speak for themselves.
As writer and author Parker Molloy pointed out in a recent post on Bluesky, the Grok feature is “taking some interesting liberties” with people’s otherwise sincere posts.
Screenshots show how Grok completely botched translations by coming up with shocking and decidedly NSFW AI hallucinations.
One South Korean user, for instance, posted an otherwise tame video of two video game characters, only for the auto-translate feature to allege that it was a “c**shot video with my stepmom.”
“I am not sure it is the right translation,” a taken-aback user replied.
“It isn’t correct at all!” the original poster lamented.
Another post by Portuguese account POPTime shows a video of a man making an elaborate cup of coffee during a flight.
But a purported translation “from Portuguese by Grok” claimed that the video shows a man who is pleasuring himself in public.
“Grok auto translate is inaccurate, text actually translates to ‘Man grinds and brews his own coffee during a commercial flight,’ not ‘Man masturbates and jerks off to his own coffee during commercial flight,’” an appended community note reads.
Another Turkish user, who posted an innocent picture of their young kitten, was horrified after Grok’s translation suggested that they were looking to “f*** our baby.”
“Uhhh the automatic translation makes it alarming,” another user replied.
To the X community, which has already seen its fair share of Grok’s foul-mouthed shenanigans, the AI’s profanity-laden translations were just another bemusing distraction.
But to anybody looking to meaningfully post on social media, the bizarre liberties the chatbot is taking perfectly highlight the sorry state of the microblogging platform. Ever since Musk took over in 2022, users have noted a major uptick in the proliferation of hate speech and disinformation. Researchers have found that X’s AI models are driving online racist abuse.
Grok’s ability to come up with AI images, in particular, has been mired in controversy, from being used to generate nonconsensual nudes of women to a single account that was recently found to have posted thousands of explicit images of an 11-year-old girl.
Musk’s prodigal chatbot, in other words, has been guilty of crimes far worse than expletive-laden translations.
More on Grok: Grok Linked to Sickening Crime in Lawsuit That Puts SpaceX in Crosshairs
The post Grok’s Foul-Mouthed AI “Translation” Feature Puts Unspeakably Ghoulish Words Into Users’ Mouths appeared first on Futurism.
