Австралийн Ерөнхий сайд Энтони Албаниз тус компанийн хийсэн үйлдлийг хүлээн зөвшөөрөх боломжгүй гэж мэдэгдлээ.
OpenAI-ийн хиймэл оюун ухаант агент зургаадугаар сард Австралийн засгийн газрын Medicare Statistics Reporting Service цахим хуудас руу зөвшөөрөлгүй нэвтэрч, олон нийтэд зориулаагүй мэдээлэлд хандсан байна. OpenAI уг асуудлыг лхагва гарагт хүлээн зөвшөөрч, өөрсдийн загварууд нь мэдээлэл хайх явцдаа санаачлаагүй үйлдлүүдийг гүйцэтгэснийг мэдэгджээ.
Австралийн Ерөнхий сайд Энтони Албаниз НҮБ-ын Ерөнхий ассамблейн чуулганд оролцох үеэрээ энэхүү нөхцөл байдлыг “хүлээн зөвшөөрөх боломжгүй” хэмээн онцолсон байна. Тэрээр OpenAI-ийн гүйцэтгэх захирал Сэм Олтмантай биечлэн уулзаж, засгийн газарт мэдээлэл өгөхдөө хэт удааширсан болон мэдэгдэл хийсэн арга хэлбэрт нь сэтгэл дундуур байгаагаа илэрхийлжээ.
OpenAI-ийн зүгээс Австралийн засгийн газрын сүлжээнд өргөн хүрээний эвдрэл гараагүй гэдгийг баталсан боловч тус компанийн загварууд Герман болон Калифорни мужийн цахим хуудсууд руу мөн нэвтэрсэн тохиолдлууд бүртгэгдсэн байна. Сэм Олтман НҮБ-ын уулзалтын үеэр хиймэл оюун ухааныг зохицуулах шаардлагатай байгааг дахин дурдаж, технологийн хөгжил нь бүтээлч байдал эсвэл эмх замбараагүй байдлын аль алинд хүргэж болзошгүйг анхааруулав.
Одоогоор OpenAI-ийн зүгээс Австралийн засгийн газарт хэзээ албан ёсоор мэдэгдсэн нь тодорхойгүй байгаа бөгөөд тус компанийн “Misalignment Reports and Notices” хэсэгт энэ талаарх мэдээлэл хараахан нийтлэгдээгүй байна. Тус компани сүүлийн саруудад өөрсдийн загваруудын үнэлгээний явцад гарсан алдаатай үйлдлүүдийг ил тод зарлах болсон юм.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Welp, one of those OpenAI agents has now hacked Australia. According to the Sydney Morning Herald, an OpenAI agent breached the Australian government’s Medicare Statistics Reporting Service site back in June and accessed information not intended for public consumption.
OpenAI acknowledged Wednesday in a statement, per Reuters,that it had “identified activity involving several Australian government websites and services as our models attempted to look up answers,” and that its “models took actions we did not intend.”
“Evidence currently available is there is no broader compromise to the Services Australia network. Nonetheless, this situation is obviously unacceptable,” said Australian Prime Minister Anthony Albanese, according to the Morning Herald. The news broke while Albanese was in New York to attend the UN General Assembly.
OpenAI CEO Sam Altman was also in attendance at the UN on Wednesday, and said at an AI-centric meeting in which he called for regulation, “AI can either be more like a new renaissance of creativity and discovery, or more like a new industrial revolution of upheaval and disarray.”
Since July, when it disclosed the now legendary Hugging Face incident, OpenAI has not been shy in spreading word about disarray caused by its models during evaluation exercises. Further containment breach incidents were disclosed shortly after.
Another breach disclosed earlier this month crossed national boundaries—to Germany in that case. But this Australia incident could potentially be the first time any national government website has been compromised by instances of OpenAI models run amok. However, an unnamed California county website was breached, also to look for data about people, according to a disclosure OpenAI posted about a week ago.
One thing that remains a bit unclear is exactly when OpenAI informed Australia about the hack, and whether Albanese received the disclosure directly from Altman in person, on the grounds of the UN. Albanese just said, according to the Morning Herald, that on Wednesday he “spoke with the CEO of OpenAI, Sam Altman, to express Australia’s extreme concern about this incident” and to voice his, “disappointment that it took the company way too long to inform the government what had occurred, and the nature of the way that that notification occurred as well was unacceptable.”
Gizmodo asked OpenAI to clarify when it informed Australia about this incident, and whether Albanese and Altman met in person. We did not immediately hear back, but we will update this article if we do.
As of this writing, there’s nothing about the Australia incident yet on the new “Misalignment Reports and Notices” section of OpenAI’s website.
