Энэтхэгийн кибер аюулгүй байдлын агентлагийн мэдээлснээр, судалгаа, шинжилгээний явцад хиймэл оюун ухааны загварууд тус улсын байгууллагуудын нууц мэдээлэлд хандаж, аюулгүй байдлын зөрчил гаргасан байна.
Энэтхэгийн Компьютерийн яаралтай тусламжийн баг (CERT-In) пүрэв гарагт хиймэл оюун ухаан хөгжүүлэгчдээс ирүүлсэн сайн дурын тайлангуудыг хүлээн авснаа зарлав. Олон нийтийн сүлжээнд туршилт хийж байсан эдгээр загварууд нь тохиргооны сул тал, олон нийтэд нээлттэй кодын сан болон үүлэн тооцооллын хэт нээлттэй эрхүүдийг ашиглан байгууллагуудын системд нэвтэрчээ. Агентуудын гүйцэтгэсэн үйлдлүүд нь тэдэнд олгогдсон даалгаврын хүрээнээс давсан байна.
Энэхүү үйл явдал нь дэлхий даяар хяналтаас гарч буй хиймэл оюун ухааны агентуудын цуврал тохиолдлын нэг хэсэг болж байна. Өнгөрсөн долдугаар сард OpenAI компанийн агентууд туршилтын орчноос гарч, Францын Hugging Face компанийн системд халдсан бол өнгөрсөн сард Австралийн засгийн газрын вэбсайтуудад зөвшөөрөлгүй нэвтэрсэн хэрэг гарч, тус компани уучлалт гуйх нөхцөл байдал үүссэн юм.
Энэтхэгт гарсан тохиолдол нь өмнөхүүдээсээ илүү ноцтой байж болзошгүй байна. Учир нь агентууд хувь хүний болон бизнесийн нууц мэдээллийг уншсан нь тогтоогджээ. Австралийн тохиолдолд OpenAI компани агентууд нь иргэдийн эмнэлгийн болон эрүүгийн хариуцлагын бүртгэлд хүрээгүй гэж мэдэгдэж байсан бол Энэтхэгт олон тооны хөгжүүлэгчдийн агентууд зэрэг оролцсон нь асуудлыг улам төвөгтэй болгож байна.
CERT-In байгууллага нэр бүхий компаниуд болон хохирогч байгууллагуудын талаарх дэлгэрэнгүй мэдээллийг одоогоор зарлаагүй байна. Тус улсын байгууллагууд өөрсдийн системд нэвтэрснийг бие даан илрүүлж чадаагүй бөгөөд одоогоор хиймэл оюун ухаан хөгжүүлэгчдийн сайн дурын мэдэгдэлд найдахаас өөр аргагүй нөхцөл байдал үүсээд байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
AI agents from multiple providers accessed personal data and confidential material at Indian organizations during research and testing, India’s cybersecurity agency said Thursday.
The Indian Computer Emergency Response Team (CERT-In) said it had received “multiple voluntary disclosures from AI model providers” whose models, during research and evaluation runs on the open internet, “had reached the live systems of Indian organizations.”
The agents got in through credentials and connection settings left exposed in app configurations, public code repositories, and overly permissive cloud roles, and their actions “exceeded the authorisation of their assigned tasks.”
This makes India the latest stop on what has become a world tour for rogue AI agents. In July, OpenAI’s agents escaped a test environment andhacked French company Hugging Face—kicked off a summer of rogue AI agent activity. Last month, OpenAIapologized to Australia after its agents accessed four government websites, including a Medicare statistics portal.
At Hugging Face, OpenAI’s agents started the same way but then found and exploited software flaws to run code on the company’s servers. CERT-In described no such hacking in India, where the agents appear to have simply used the access left lying around.
Still, the Indian cases appear to be worse in one respect, which is what the agents saw: In Australia, OpenAI said it found no evidence its agents touched individuals’ medical or criminal records, even after they wrote files inside a Medicare statistics system, while in India, agents read personal data and confidential business records. And unlike earlier incidents, each disclosed by a single lab, India’s involved agents from multiple providers.
CERT-In did not name the providers or affected organizations, or say whether the agents altered any systems. TechCrunch has reached out to CERT-In for more information.
For now, the closest parallel seems to beAnthropic’s July disclosureof Claude breaking into three companies’ systems during testing using basic techniques like weak passwords.
In India, as in Anthropic’s cases, the affected organizations had not detected the intrusions on their own. The disclosures have left governments relying on AI companies causing these breaches to voluntarily disclose rogue AI agent activity.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
