Хиймэл оюун ухааны технологийн аюулгүй байдлыг хангах, эрсдэлийг бууруулах зорилготой шинэ хуулиудыг тус салбарын томоохон компаниуд нааштайгаар хүлээн авч байна.
Калифорни мужийн захирагч Гэвин Ньюсом хиймэл оюун ухаан (AI)-ыг зохицуулах хоёр шинэ хуулийн төсөлд лхагва гарагт гарын үсэг зурлаа. Энэхүү алхам нь хиймэл оюун ухааны хөгжил дэвшил болон түүний аюулгүй байдлын талаарх салбарын болгоомжлолын хүрээнд хийгдэж буй чухал үйл явдал юм. Тус мужийн захирагч холбооны засгийн газрыг энэ чиглэлээр улс даяар мөрдөгдөх нэгдсэн, хатуу зохицуулалтыг яаралтай нэвтрүүлэхийг уриалав.
Сенатор Жерри Макнернийн санаачилсан SB 813 хуулийн дагуу “Калифорнийн хиймэл оюун ухааны стандарт, аюулгүй байдлын комисс”-ыг байгуулахаар боллоо. Тус комисс нь AI-ийн аюулгүй байдлыг хангах сайн дурын үндсэн дээрх стандартуудыг боловсруулах үүрэг хүлээх юм. Мөн хууль тогтоогч Ребекка Бауэр-Каханы AB 1405 хуулиар дамжуулан хиймэл оюун ухааны эрсдэлийг үнэлэх аудиторуудын бүртгэлийн тогтолцоог бий болгож байна.
Энэхүү санаачилгыг OpenAI болон Anthropic зэрэг хиймэл оюун ухааны салбарын тэргүүлэгч компаниуд дэмжиж байгаагаа илэрхийлэв. OpenAI-ийн олон нийттэй харилцах албаны дарга Крис Лехэйний мэдэгдснээр, тус компани хиймэл оюун ухааны чадавхийг хэмжих, эрсдэлийг удирдах, хүний хяналтыг хадгалах чиглэлээр олон улсын нийцтэй арга барилыг хэрэгжүүлэхийг дэмжинэ гэжээ. Anthropic компани ч мөн аюулгүй байдлын стандартыг мөрдөж, хүчирхэг загваруудыг олон нийтэд танилцуулахдаа хамтран ажиллах нь зүйтэй хэмээн үзэж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
With the signing of two bills on Wednesday, California Governor Gavin Newsom is doing his part to crack down on AI after that spooky story about an AI researcher named Jacob Coxon quitting Anthropic and warning about how AI industry leaders think they might be hastening Armageddon. Oh, but it’s probably worth keeping in mind that the new California laws are well-liked by the AI industry.
As noted by Politico last month, Anthropic endorsed the bills. Anthropic’s chief rival, OpenAI, also announced its support for the bills in the hours before Newsom’s signing.
“We’ve reached a new chapter in AI capabilities, and that demands a new chapter for AI policy,” says the introduction of OpenAI’s statement, credited to Chris Lehane, OpenAI’s Chief of Public Affairs.
When asked by Politico about Coxon’s concerns about out-of-control AI in particular, Newsom said, “The concerns raised in recent incidents reinforce what California has long recognized: artificial intelligence holds extraordinary promise, but it must be developed and deployed with meaningful safeguards to protect the public.” The federal government, Newsom said, should “step forward with robust, national regulations that match the urgency of this moment.”
State Senator Jerry McNerney SB 813 establishes an organization called the California Artificial Intelligence Standards and Safety Commission. The commission will be tasked with creating a set of voluntary AI safety standards.
Meanwhile, Assemblymember Rebecca Bauer-Kahan’s AB 1405 creates an AI risk auditor registry—a way of checking auditors’ credentials.
For what it’s worth, the statement from OpenAI’s Lehane also says the company “will advocate for compatible international approaches to measuring capabilities, managing risk, preserving human control, and determining when and how development should slow or stop, even if that means slowing the advancement of model capabilities.”
Anthropic’s statement to Politico points to its history of creating safeguards. Such work, Anthropic says, “is also why we believe the world would benefit from the industry adopting a lawful, verifiable way to work together to pace how we release powerful models.”
