Meta компани хэрэглэгчдийн өдөр тутмын ажлыг хөнгөвчлөх зорилгоор “Muse” нэртэй хиймэл оюун ухаант туслахыг танилцуулсан нь хувийн мэдээллийн аюулгүй байдлын талаарх болгоомжлолыг төрүүлж байна.
Meta компани хиймэл оюун ухааны зах зээлд өрсөлдөх зорилгоор энэ долоо хоногт “Muse” чатботоо нэвтрүүллээ. Тус туслах нь тикет захиалах, цаг товлох, маягт бөглөх зэрэг ажлыг гүйцэтгэхэд зориулагдсан боловч хэрэглэгчийн хувийн мэдээлэлд хэт гүнзгий нэвтэрч байгаа нь туршилтын явцад илэрчээ. Тухайлбал, уг систем хэрэглэгчийн Amazon-ы захиалгын хаяг болон Gmail-ийн мэдээлэлд тулгуурлан хувийн сонирхол, байршил зэрэг нарийн мэдээллийг автоматаар цуглуулж байгаа нь нууцлалын ноцтой асуудал үүсгэж болзошгүй байна.
Компанийн зүгээс уг үйлчилгээг “тусгай виртуал машин”-д аюулгүй ажиллуулж, нэвтрэх мэдээллийг хиймэл оюун ухаанд хандах боломжгүй газар хадгална гэж мэдэгдсэн ч хэрэглэгчдийн итгэлийг олоход бэрхшээлтэй хэвээр байна. Meta нь хэрэглэгчийн хувийн мэдээллийг хамгаалах тал дээр өмнө нь хангалтгүй ажиллаж байсан түүхтэй тул шинэ бүтээгдэхүүний аюулгүй байдалд эргэлзэх шалтгаан болж байна.
Үүний зэрэгцээ, Facebook платформ дээр хүүхдийн хүчирхийллийг харуулсан дүрс бичлэгүүд ихээр тархаж байгаа нь компанийн зохицуулалтын бодлогыг дахин хөндөж байна. Meta нь хүчирхийллийн эсрэг арга хэмжээ авах тал дээр тодорхойгүй байр суурь баримталж байгаа нь олон нийтийн шүүмжлэлийг улам бүр нэмэгдүүлж байна. Хиймэл оюун ухааны технологийн хөгжил болон платформын аюулгүй байдлын асуудал зэрэгцэн өрнөж байгаа нь технологийн томоохон компаниудын хариуцлагын асуудлыг хурцаар тавьж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Meta’s platforms are in a sorry state as grotesque AI slop continues to proliferate widely.
As a recent Futurism investigation found, many Facebook accounts have been flooding the platform with horrid videos depicting violent child abuse, and Meta appears to be woefully unprepared — and downright unwilling, judging by its ambiguously-phrased policies — to do anything meaningful about it.
At the same time, the Mark Zuckerberg-led company is finding plenty of new ways to creep out its user base. As part of the CEO’s lagging efforts to turn Meta into a viable competitor in the ongoing AI race, Meta launched a new AI assistant called Muse this week, and it’s already turning out to be deeply unsettling.
According to Meta’s marketing, the assistant is designed to “take the busywork off your plate,” such as booking tickets, making appointments, or filling out forms.
To actually reap any benefits, however, users have to hand over a staggering amount of trust — which, considering Meta’s catastrophic track record when it comes to protecting its users’ privacy, could easily turn out to be an absolutely terrible idea. While Meta claims the service runs on a secure “dedicated virtual machine” and that it will store login credentials in a place that cannot be accessed by the AI agent, the company has a lot of work to do to gain its users’ trust.
Perfectly illustrating the problem, as The Verge‘s Emma Roth found in her testing, Muse uncovered an “unnerving amount of information it autonomously gleaned about me.”
As part of her investigation, Roth linked both her Gmail and Amazon accounts to Muse and was immediately put off by how much personal info Muse pieced together right off the bat. It figured out the state where she was visiting her family, for instance, admitting it “pulled” data from the “shipping address on my Amazon order.”
It also listed off her “very specific interests” at a level of specificity that goes far beyond the “ad topics” section in the Instagram settings menu, which shows why certain advertisers target your account.
The experience left Roth “with an uneasy feeling about letting Muse sort through personal emails and handle my credit card.”
Meta’s creepy new AI chatbot perfectly illustrates how tech companies are continuing to push the boundaries of how much personal information we’re willing to give up just so we don’t have to complete mundane tasks — an extremely lopsided value proposition.
These same companies have repeatedly proven that they cannot be trusted with our private data. AI chatbots, which are turning out to be a surveillance-led cybersecurity nightmare in their own right, don’t instill much more confidence, either.
The post Meta Releases Uber-Creepy AI Chatbot as Its Platforms Crumble Under Grotesque Child Abuse appeared first on Futurism.
