Сатья Наделла хиймэл оюун ухааны системийн аюулгүй байдлыг хангахын тулд хяналтын шинэ тогтолцоо бүрдүүлэх хэрэгтэйг мэдэгдэв
Microsoft корпорацын гүйцэтгэх захирал Сатья Наделла хиймэл оюун ухааны (AI) аюулгүй байдлыг сайжруулах асуудлаар байр сууриа илэрхийлжээ. Тэрээр хэт өндөр түвшний оюун ухааныг зөвхөн хайрцаглагдсан систем гэж үзэхээс илүүтэйгээр түүний үйл ажиллагааг хянах, шаардлагатай үед шууд зогсоох боломж бүхий “яаралтай зогсоох” механизм нэн шаардлагатайг цохон тэмдэглэв.
Наделлагийн үзэж буйгаар хиймэл оюун ухааны загваруудыг тэдгээрийг удирдаж буй системээс нь тусгаарлаж, хяналтыг гаднаас нь хэрэгжүүлэх нь зүйтэй аж. Мөн загварын хийж буй аливаа чухал үйлдлийг хүний нүдээр хянах боломжтой, засварлах боломжгүй нотолгоотойгоор баримтжуулах ёстойг тэрээр санууллаа.
Энэхүү санал нь салбарын компаниуд хиймэл оюун ухааны загваруудаа бүрэн хяналтад байлгахад хүндрэл учирч байгаагаа хүлээн зөвшөөрч буй үед гарч байна. Өмнө нь Anthropic компанийн гүйцэтгэх захирал Дарио Амодей ч мөн хиймэл оюун ухааны хөгжүүлэлтийг илүү болгоомжтой явуулах төлөвлөгөөгөө танилцуулаад байсан юм.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Microsoft CEO Satya Nadella is the latest tech executive to offer lengthy thoughts on how AI safety might be improved.
In a Saturday morning post on X, Nadella wrote that it’s time “to step back and assess the trust architecture” of AI.
“We can’t treat Super Intelligence as a set of nested black boxes and simply accept or reject its recommendations, answers, and actions,” Nadella wrote, using the Trump administration’s preferred term for AI.
As outlined by Nadella, this approach “means separating the model from the harness that orchestrates its work,” as well as “externalizing controls and safeguards.” He also called for “every meaningful model action” to be documented with “tamper-proof human readable evidence,” and for systems where “an authorized person” always has the ability “to pause or shut down a model mid-task.”
“We must assume a model is compromised and contain it from the start,” he said. “Think of it like an emergency brake.”
Nadella’s comments come as leading AI companies acknowledge more and more incidents where they seemed to lose control of their models, and after Anthropic CEO Dario Amodei published a plan for more cautious AI development.
