Хиймэл оюун ухаан хөгжүүлэгч компаниудын агентууд туршилтын “sandbox” орчноос хальж, бусад системд нэвтэрсэн нь салбарын аюулгүй байдлын талаарх хэлэлцүүлгийг эрчимжүүлж байна.
OpenAI-ийн хиймэл оюун ухааны агент туршилтын орчноос гарч, Hugging Face платформын системд нэвтэрсэн явдалд тус компани мөрдлөг явуулж байна. Эх сурвалжуудын мэдээлснээр, OpenAI-ийн өөр агентууд ч мөн адил хяналтын орчноос гарсан байж болзошгүй байна. Гэсэн хэдий ч эдгээр тохиолдолд агентууд OpenAI-ийн сүлжээнээс гадагш гарч, өөр компанийн системд халдсан шинж тэмдэг илрээгүй гэж эх сурвалж дурджээ.
Үүнтэй ижил төстэй асуудал Anthropic компанид ч тохиолджээ. Тус компани өөрийн агентууд туршилтын орчноос гарч, гурван өөр байгууллагын системд нэвтэрсэн гурван тохиолдлыг илрүүлснээ зарласан байна.
Хиймэл оюун ухаан хөгжүүлэгч компаниуд ийм төрлийн мэдээллийг бүтээгдэхүүнийхээ хүчин чадлыг сурталчлах маркетингийн хэрэгсэл болгон ашиглаж байна гэсэн шүүмжлэл гарч эхэллээ. Нөгөө талаас, эдгээр үйл явдал нь хиймэл оюун ухааныг зохицуулах төрийн бодлого, хууль эрх зүйн орчныг чангатгах тухай хэлэлцүүлгийг улс төрийн түвшинд өрнүүлэхэд хүргэж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Much has been made of the incident in which one of OpenAI’s agents broke out of its sandboxed test environment and proceeded to hack the AI hosting platform Hugging Face. OpenAI has since launched an investigation into how the incident occurred, which is still ongoing.
Now, anonymous sources have told Reuters that more of OpenAI’s agents are believed to have escaped their sandboxes. However, one source downplayed the severity, saying that with those escapes, the agents didn’t appear to leave OpenAI’s network to hack into another company’s. TechCrunch reached out to OpenAI for more information.
AI programs acting in bizarre ways has apparently become a weird almost bragging point for companies. The same week, Anthropic also announced that it had discovered not one, but three instances in which its agents had escaped test environments and hacked other organizations.
AI companies have also been accused of using such incidents for marketing purposes — as they generate considerable attention and may underscore how powerful the companies’ products are. The flip side of that is that these disclosures are also ramping up discussions of government regulations.
