Хиймэл оюун ухааны салбарын тэргүүлэгч тус компани эсэргүүцлийн хөдөлгөөнүүдийг урьдчилан таамаглаж, аюулгүй байдлын эрсдэлийг бууруулах зорилгоор тандалтын цогц системийг нэвтрүүлж эхэллээ.
“American Prospect”-ийн мэдээлснээр, Anthropic компани эсэргүүцэгчдийн үйл ажиллагааг ажиглах, болзошгүй эмх замбараагүй байдлыг урьдчилан илрүүлэх зорилгоор “урьдчилан сэргийлэх” арга барилыг хэрэгжүүлж байна. Энэхүү систем нь Samdesk эрсдэл илрүүлэгч компанийн мэдээлэлд тулгуурлан, эсэргүүцлийн жагсаал цуглааны цаг хугацаа, байршлыг нарийн хянах боломжийг олгодог аж. Anthropic-ийн аюулгүй байдлын албаны дарга нарын мэдэгдснээр, өнгөрсөн онд уг системийг ашиглан жагсаалын төлөвлөгөө өөрчлөгдсөнийг 60 минутын өмнө илрүүлж, компанийн удирдлагуудыг эрсдэлтэй нөхцөл байдлаас зайлсхийхэд тусалжээ.
Тус компани зөвхөн жагсаал цуглааныг хянах бус, хиймэл оюун ухааны чатбот Claude-ийн хэрэглэгчдийн яриаг ч цагдаагийн байгууллагад мэдээлэх тохиолдол гарч байна. Тухайлбал, наймдугаар сард Сан-Франциско хотын нэгэн иргэн Claude-д хандан зэвсэгтэй байгаа болон компанийн гүйцэтгэх захирал Дарио Амодейг онилсон тухайгаа дурдсаны дараа Anthropic уг асуудлыг хууль сахиулах байгууллагад шилжүүлжээ. Гэсэн хэдий ч, тус компани цагдаагийн байгууллагад мэдээлэл өгөхдөө хэрэглэгчийн чатын түүхийг нотлох баримт болгон гаргаж өгөхөөс татгалзсан нь шүүмжлэл дагуулж байна.
Anthropic-ийн аюулгүй байдлын удирдлагуудын тайлбарласнаар, энэхүү үйл ажиллагаа нь аюулыг илрүүлэх үйл явцыг реактив буюу хариу үйлдэл үзүүлэхээс идэвхтэй, урьдчилан таамаглах хэлбэр рүү шилжүүлэх зорилготой юм. Компанийн зүгээс үүнийг өндөр үнэ цэнтэй байг хамгаалах салбарын стандарт үйл ажиллагаа хэмээн тодорхойлж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
With opposition to AI continuing to grow, a top AI lab is building out a massive surveillance apparatus meant to keep a close eye on dissenters and predict when the next groundswell of protest might occur.
News of Anthropic’s system was first reported by the American Prospect, which spoke with Anthropic senior security officials and indexed job postings to get an understanding of the dragnet.
On top of keeping tabs on protests in the vicinity of Anthropic offices, the publication notes that the AI lab is taking a “pre-crime” approach to watching for potential civil unrest.
To give an example, the Prospect points out an incident shared by Anthropic security operations managers Keon Ellison and Zach Melvin, alongside James Neufeld, CEO of risk detection company Samdesk.
“Last year we had an executive travel into a major city when we received some intelligence through Samdesk about a planned protest,” Ellison said candidly. After the scheduled protest was moved up an hour due to a mix-up with police permits, the security chief said that “Samdesk gave us about 60 minutes of advanced notice that the protest organizers had moved the timeline.”
“That extra hour was critical,” Ellison continued. “Without it our executives would have departed their meetings, they would have ran right into the heart of the disruption. What could have been a high-stress situation was really mitigated through early detection through Samdesk and giving us that information.”
Outside of anticipating protests, there were also cases where Anthropic reported conversations held with its AI chatbot Claude to police. Though there have been calls to increase safety guardrails on large language models, Anthropic’s approach sounds bizarre.
As the San Francisco Standard reported in August, Anthropic reported a San Francisco man to the cops after he told Claude he was holding a rifle, and had the company’s CEO Dario Amodei “in his sights.” Yet when Anthropic reported the conversation to Bay Area police, the company refused to provide the man’s chat logs — as the Prospect observes, essentially reporting the man without sharing any tangible evidence of misconduct.
“The goal,” as Anthropic’s security manager said in the interview, “would be transforming operations from reactive information to gathering proactive and predictive and preventative threat engagement and management. That’s the kind of operational maturity that makes sense for protecting high-value targets in any industry.”
More on AI: Protesters Arrested After Storming OpenAI Lobbying Office
The post Anthropic Is Building a Huge Surveillance System to Spy on Anti-AI Activists and Predict Their Activities appeared first on Futurism.
