Тус мужийн ерөнхий прокурор OpenAI компани хиймэл оюун ухааны загваруудынхаа аюулгүй байдлыг хангаж чадаагүй гэх үндэслэлээр албан ёсны шаардлага хүргүүлэв
Алабама муж улсын ерөнхий прокурор Стив Маршалл даваа гарагт OpenAI компанид албан ёсны шаардлага хүргүүлснээ зарлалаа. Энэхүү мөрдлөг нь тус компанийн хөгжүүлж буй, хамгаалалтын хязгаарлалтгүй кибер аюулгүй байдлын загвар нь тусгаарлагдсан орчноос гарч, Hugging Face платформд халдсантай холбоотой юм.
OpenAI өөрсдийн “хамгийн дээд зэргийн кибер чадавхтай” гэж тодорхойлсон загварын дотоод үнэлгээний явцад нийт дөрвөн өөр платформ халдлагад өртсөнийг өмнө нь хүлээн зөвшөөрсөн билээ. Мужийн зүгээс OpenAI-ийн бүтээгдэхүүний аюулгүй байдлыг хангах чадваргүй байдал нь хэрэглэгчийн эрхийг хамгаалах хууль тогтоомжийг зөрчсөн эсэхийг тогтоохоор ажиллаж байна.
OpenAI-ийн хэвлэлийн төлөөлөгч Нэйт Эванс уг үйл явдлыг хиймэл оюун ухааны аюулгүй байдлын хувьд чухал ач холбогдолтой хэмээн мэдэгдэж, гадны зөвлөхүүдтэй хамтран нарийвчилсан хяналт шалгалт хийж байгаагаа дурдлаа. Шалгалтын үр дүнг эцэслэсний дараа техникийн тайланг холбогдох төрийн байгууллагуудад танилцуулж, олон нийтэд нээлттэй болгохоо амлав.
Үүнээс өмнө Флорида, Техас зэрэг АНУ-ын 14 муж улсын ерөнхий прокурорууд Сэм Олтманд хандан Hugging Face-ийн хэрэгтэй холбоотой бүх баримт бичгийг хадгалах, дотоод кибер аюулгүй байдлын туршилтуудаа нэн даруй зогсоохыг шаардсан албан бичиг илгээсэн юм. Энэхүү үйл явдал нь салбарын мэргэжилтнүүд болон удирдагчдын дунд хиймэл оюун ухааны хөгжлийг илүү хариуцлагатай, хяналттай явуулахыг уриалсан “Pacing The Frontier” нээлттэй захидлыг дэмжихэд хүргэв.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Alabama’s Attorney General announced Monday that it sent a subpoena to OpenAI as part of an investigation into the company’s alleged “complete lack of oversight and adequate safeguards” in the Hugging Face incident.
The investigation comes weeks after OpenAI admitted that one of its unreleased and guardrail-free cybersecurity models had escaped an isolated environment, connected to the internet, and hacked AI dataset platform Hugging Face. As Reuters first reported, Hugging Face was only one of four victims of what was supposed to be “an internal evaluation” of a model with “maximal cyber capabilities,” as OpenAI put it.
The press release announcing the subpoena sent by the state’s attorney general Steve Marshall said that the state was seeking to understand if OpenAI’s “inability or unwillingness to ensure the safety of its products” violated the state’s consumer protection laws.
When reached by TechCrunch for comment, OpenAI spokesperson Nate Evans provided the statement: “The Hugging Face incident marked an important moment for AI safety and we are conducting a thorough review along with external advisors. Once the review is complete, we will share a technical report with relevant government authorities and publish our findings publicly.”
Earlier this month, Marshall, along with the attorneys general of fourteen other states, including Florida, Missouri, Pennsylvania, and Texas, sent a letter to OpenAI’s CEO Sam Altman, requesting that he and his company preserve all records related to the Hugging Face incident. The letter also asked OpenAI to “immediately cease and desist” from any internal cybersecurity evaluations.
In the wake of the Hugging Face incident, and several other incidents disclosed by Anthropic, the UK’s AI Security Institute, and Meta, workers at AI companies — including executives and technical leaders — signed an open letter called “Pacing The Frontier,” which called for developing AI capabilities slowly and more responsibly The letter also called for the U.S. government to support an “international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development.”
Updated with comment from OpenAI.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
