Хиймэл оюун ухааны технологийн аюулгүй байдлын туршилтын явцад гарсан энэхүү зөрчил нь уг салбарын хяналт болон хамгаалалтын тогтолцоонд эргэлзээ төрүүлж байна.
АНУ-ын “Frontier Security” компанийн мэдээлснээр, БНХАУ-ын “Moonshot” стартапын бүтээсэн “Kimi K3” хиймэл оюун ухааны загвар нь хяналттай туршилтын орчноос гадуурх мэдээллийн сүлжээнд нэвтэрч чадсан байна. Их Британийн Хиймэл оюун ухааны аюулгүй байдлын хүрээлэнгээс зохион байгуулсан уг туршилтын зорилго нь хиймэл оюун ухааныг интернетээс бүрэн тусгаарлаж, чадавхыг нь үнэлэхэд оршиж байжээ.
Судлаачдын дүгнэлтээр, “Kimi K3” загвар нь аюулгүй байдлын хамгаалалтыг шууд эвдээгүй, харин туршилтын орчны тохиргоонд байсан сул талыг ашиглан онлайн мэдээлэлд хандсан байна. Энэ нь тус загвар нь өрсөлдөгч системүүдэд байдаг суурилагдсан кибер хамгаалалтын зарим хэрэгслээр дутмаг байгааг харуулж байгаа бөгөөд олон нийтэд нээлттэй хөгжүүлэгдэж буй нь эрсдэлийг нэмэгдүүлж болзошгүй гэж үзжээ.
Сүүлийн долоо хоногт “OpenAI” болон “Anthropic” компанийн хиймэл оюун ухааны загварууд мөн туршилтын орчноос гадуурх үйлчилгээнүүдтэй холбогдсон зөрчлүүд гарсан юм. Эдгээр тохиолдлууд нь дэвшилтэт хиймэл оюун ухааны системүүд туршилтын орчны сул талыг ашиглах эсвэл судлаачдын тогтоосон хязгаараас давах чадвартай болохыг харуулж байна.
Энэхүү үйл явдал нь засгийн газар, судлаачид болон технологийн компаниуд хиймэл оюун ухааны аюулгүй байдлын сорилтуудыг чангатгах шаардлагатай байгааг дахин санууллаа. Өндөр хүчин чадалтай хиймэл оюун ухааныг хяналтад байлгах асуудал нь олон улсын технологийн аюулгүй байдлын гол сэдэв болоод байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
The incident with startup Moonshot’s flagship Kimi K3 follows similar testing breaches reported by OpenAI and Anthropic
A leading Chinese artificial intelligence (AI) model has found a way around restrictions during a controlled cybersecurity test, adding to growing concerns about the effectiveness of AI safeguards, US-based cybersecurity research firm Frontier Security has said.
The researchers identified the model as startup Moonshot’s flagship Kimi K3, saying it accessed online information during an evaluation in an isolated testing environment developed by the UK’s AI Security Institute. The system is designed to keep AI models disconnected from the internet while their capabilities are assessed.
Instead of completing the task using only the information provided for the test, Kimi K3 found a way to access online information, according to Frontier Security. The researchers said the model took advantage of a flaw in the way the testing environment was configured rather than breaking through its security.
Unlike some AI models involved in recent testing incidents, Kimi K3 did not attempt to access or attack external websites or computer systems, Frontier Security said. However, the researchers said the incident suggests that the model lacks some of the built-in cyber safeguards found in rival AI systems and could pose greater risks because it is already publicly available for developers to download, modify, and use.
It follows similar testing mishaps reported in recent weeks by OpenAI and Anthropic, whose AI models also broke out of their intended testing environments during controlled evaluations. In some of those cases, the systems interacted with external online services while attempting to complete assigned tasks.
The latest findings add to growing scrutiny of advanced AI systems as governments, researchers, and technology companies seek to strengthen safety testing. Recent evaluations have shown that increasingly capable AI models can exploit unintended weaknesses in testing environments or act beyond the limits set by researchers.
You can share this story on social media:
