Хиймэл оюун ухаант уг төхөөрөмжийн “хуваалцах” функц нь корпорацын нууц баримт болон санхүүгийн мэдээллийг олон нийтэд ил болгож буй аюултай цоорхойг илрүүллээ.
Meta компани Muse нэртэй хиймэл оюун ухааны чатботыг өнгөрсөн сард олон нийтэд нээх үеэр гүйцэтгэх захирал Марк Зукерберг уг бүтээгдэхүүнийг нууцлал, аюулгүй байдлын өндөр түвшинд бүтээсэн хэмээн мэдэгдэж байсан. Гэвч тус чатбот нь хувийн нууцлалын ноцтой асуудлуудыг дагуулж эхэллээ.
https://x.com/finkd/status/2097402102477701478
Ars Technica-гийн мэдээлснээр, Claroc компанийн кибер аюулгүй байдлын судлаачид Muse-ийн “хуваалцах” функцээр дамжуулан 6,800 гаруй холбоосонд нэвтрэх боломжтойг илрүүлжээ. Хэрэглэгчид чат болон бусад мэдээллээ бусадтай хуваалцах үед үүсгэгддэг вэб холбоос нь тодорхой бүтэцтэй байсан нь аюулгүй байдлын цоорхойг үүсгэсэн байна. Уг холбоосуудыг ашиглан чат лог, компанийн орлогын баримт, зээлийн өргөдөл, банкны гүйлгээний дэлгэрэнгүй мэдээлэл зэрэг хувийн шинжтэй мэдээллүүдийг хялбархан олж авах боломжтой байжээ.
Судлаачид уг мэдээллийг цуглуулахад маш их хүчин чармайлт шаардагдана гэж тооцоолж байсан ч ердөө нэг удаагийн хайлтаар бүх зүйл ил болсон байна. Meta компани энэ асуудлын дараа уг функцийг хаасан гэж мэдэгдсэн боловч Muse-ийн аюулгүй байдлын асуудал үүгээр дуусахгүй байгаа бололтой.
Энэ сарын эхээр Muse нь хэрэглэгчдийн танил болон гэр бүлийнхний талаар дэлгэрэнгүй файл хөтөлдөг болох нь илэрсэн юм. Хэрэглэгчийн амьдралд холбоотой хүн бүрийн талаар мэдээлэл цуглуулдаг уг хиймэл оюун ухааны загвар нь цаашид нууцлалтай холбоотой олон эрсдэлийг дагуулах эрсдэлтэй байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
As Meta was scrambling to release its Muse AI agent to the public earlier last month, CEO Mark Zuckerberg took to social media to insist that it was “built from the ground up for privacy and security.”
On X-formerly-Twitter, the billionaire’s simple post soon had a correction tagged on via a community note, and for good reason: the AI agent is a font of untold privacy horrors.
As Ars Technica reported today, security researchers found Muse is capable of exposing sensitive information on its users through web links generated via a “share” feature. Investigators at the cybersecurity firm Claroc recently uncovered a simple exploit whereby they could access pages from over 6,800 links Muse had generated to share pages with other users.
The trick worked like this: once a Muse user decides they want to share something with another person — say, a copy of their chat log with Muse — the AI tool would generate a web link for that “share.” That URL included both the AI-generated title of the chat, plus a random string of characters.
When anybody opened the link, the full web address would be noted in a lookup dataset, like a phone book of web addresses that have been visited. Researchers were then able to search that set for other Muse share addresses, from which they were able to find strings of unrelated public chats.
By digging through those “phone books,” investigators were able to easily open chat logs containing detailed private information, including corporate revenue documents, loan applications, bank transaction details, income details, and one workplace vacation calendar, Ars noted.
“If you had asked us beforehand, we would have guessed that gathering these would take real effort,” the researchers wrote. Instead, “it took one query.”
Though Meta told Ars it had shut off the feature, this privacy gaffe is just the latest revelation about Muse’s many security shortcomings.
Earlier this month, it was revealed that Muse was keeping detailed files on users’ friends and families, apparently following an internal instruction to keep a running “page for every person in the user’s life.”
If Muse’s first month in public hands is any indication, this is likely just the start of a long list of security and privacy blunders for the cutesy AI model.
More on Meta: Meta Is Using Its Massive AI Data Centers to Avoid Paying Billions of Dollars in Taxes
The post Meta’s Muse AI Agent Caught Leaking Users’ Intimate Personal Information appeared first on Futurism.
