Хэрэглэгчид чатботтой харилцахдаа хувийн нууцлалаа алдаж, өгөгдөл нь гуравдагч этгээдэд ил болох аюултай байгааг мэргэжилтнүүд анхааруулж байна.
DuckDuckGo компанийн судалгаагаар хиймэл оюун ухаан хэрэглэгчдийн гуравны нэг нь дотнын хүмүүстээ ч хэлдэггүй нууцаа чатботтой хуваалцдаг болох нь тогтоогджээ. Гэвч ийм төрлийн яриа нь технологийн компаниуд, хууль сахиулах байгууллага, ажил олгогчдын хяналтад орох эрсдэлтэй бөгөөд сүүлийн хоёр жилийн хугацаанд чатботын түүхийг шүүх хуралдааны баримт болгон ашигласан тохиолдол олон гарсан байна.
Anthropic компанийн Claude чатботын ярианы түүхүүд интернэтэд ил болсон тохиолдол долдугаар сард бүртгэгдсэн нь хиймэл оюун ухааны платформуудын аюулгүй байдлын сул талыг харууллаа. Стэнфордын Хүний төвт хиймэл оюун ухааны хүрээлэнгийн судлаач Жэн Кинг (Jen King)-ийн тайлбарласнаар, нууцлалын горим ашиглаагүй тохиолдолд чатботын яриа бүрэн нууцлагдсан гэж үзэх боломжгүй юм.
Судалгаанд оролцогчдын 53 хувь нь чатботууд тэдний өгөгдлийг загвар сургалтад ашигладгийг мэддэггүй бол 75 хувь нь ярианы түүхийг хуулийн байгууллага шаардан гаргуулж болдгийг огт төсөөлөөгүй байна. Иймд хэрэглэгчид хиймэл оюун ухаантай харилцахдаа интернетэд үлдээсэн мэдээлэл хэзээ ч бүрэн устдаггүй гэдгийг ухамсарлах шаардлагатай байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Talking to an AI chatbot can feel like confiding in a mirror, a private exchange equivalent to brainstorming in a Word document. Yet when it comes to the most popular AI chatbots, that mirror is really one-way glass — and you might be shocked to learn how many different people can watch from the other side.
Since the rise of easily accessible AI chatbots, untold millions of people have happily fed AI models their deepest, darkest secrets. According to a recent survey conducted by browser company DuckDuckGo and flagged by CNET, a full third of all AI users admit to having told their chatbots a secret they wouldn’t tell the “trusted people” in their lives.
There’s a grim irony there, because by telling an AI chatbot those closely guarded secrets, you may inadvertently be sharing intimate details with tech companies, police departments, lawyers, and even your boss. That’s according to new reporting by the Washington Post, which notes that there have been a dozen court cases where chatbot transcripts were cited in the public record over the last two years.
Even if your transcripts don’t end up in the hands of Johnny Law, they can easily be obtained by your boss, assuming you’re using a company-provided AI service. And of course, there’s no telling how long AI companies like OpenAI and Anthropic might hold onto details of your conversations, as WaPo notes numerous scenarios in which they may be required to hold onto your chatlogs by law.
There’s also the grim possibility of leaks from the AI companies themselves. In July, it was revealed that a whole trove of chats with Anthropic’s chatbot Claude had been exposed to the open web — and not for the first time.
“Unless you are having a chat with a service that has a temporary chat or, basically, an incognito version… [and] you’re also having it within a browser that’s not tracking you, the answer is no,” Jen King, a privacy researcher at the Stanford Institute for Human-Centered Artificial Intelligence told WaPo. “You can’t be sure that it’ll be totally private.”
And though users are remarkably comfortable divulging those details to their favorite bot, fewer are aware of those myriad ways their chat logs might live on in perpetuity. According to the DuckDuckGo poll, 53 percent of regular users said they didn’t know that AI chatbots are training on data obtained through their conversation, while 75 percent didn’t realize that conversations with large language models (LLMs) can easily be subpoenaed by police.
So when in doubt about whether to tell ChatGPT about your intimate relationship troubles, keep in mind that the internet is forever; and that goes double for AI chatbots.
More on AI chatbots: New AI Chatbot Turns Out to Be One Overworked Guy Answering All the Messages by Hand
The post People Are Telling Their Darkest Thoughts to AI Without Realizing They Can Easily Become Public appeared first on Futurism.
Та AI чатботтой ярилцахдаа ямар нууц хадгалж байгаагаа сайн бодох хэрэгтэй юм шиг. Тэгж байж өөрийнхөө хувийн мэдээлэл ямар нэгэн байдлаар ил болох эрсдэлийг бууруулахгүй бол болохгүй шүү дээ. Та ямар нууцыг хамгийн их хаах хүсэлтэй байдаг вэ?