Хиймэл оюун ухаан хөгжүүлэгч тус компани томоохон хохирол учруулсан тохиолдолд л системийг зогсоох хязгаарлалтыг хуульчлахыг лоббидож байна.
OpenAI болон Anthropic зэрэг хиймэл оюун ухааны тэргүүлэгч компаниуд АНУ-ын сонгуулийн өмнө улс төрийн үйл ажиллагаанд 55.7 сая гаруй ам.доллар зарцуулжээ. Гэвч тэдний бодлогын байр суурь тодорхойгүй байсан бөгөөд саяхан Anthropic-ийн төлөөлөгчид хууль тогтоогчидтой нууц хэлэлцээ хийж байгаа нь ил болов. Тус компани хиймэл оюун ухааны загварыг “аюултай” гэж үзэн зогсоох эрхийг холбооны засгийн газарт олгохыг дэмжиж байна.
Гэвч Anthropic-ийн санал болгож буй хуулийн төсөлд “аюул заналхийлэл” гэдгийг 50-иас дээш хүний амь нас, эрүүл мэндэд хохирол учруулах, эсхүл нэг тэрбум ам.доллараас давсан эд хөрөнгийн хохирол учруулах эрсдэлтэй нөхцөлөөр тодорхойлжээ. Үүнээс гадна биологийн зэвсэг бүтээх, кибер халдлага үйлдэх, эсхүл хяналтаас гарах гэсэн гурван тохиолдолд л уг хязгаарлалтыг хэрэгжүүлэхээр тусгасан байна.
Шийдвэрийг Худалдааны яамны дэргэдэх хөндлөнгийн хяналтын байгууллага гаргах бөгөөд зөрчил илэрсэн тохиолдолд 72 цагийн дотор холбооны шүүхэд тайлагнах үүрэгтэй. Энэхүү нарийн төвөгтэй тогтолцоо нь хиймэл оюун ухаан хөгжүүлэгч компаниудад өөрсдийн үйл ажиллагааг хянах, удирдах өргөн боломжийг олгож болзошгүй гэж шинжээчид үзэж байна.
Anthropic-ийн хэвлэлийн төлөөлөгчийн мэдээлснээр, энэхүү санаачилга нь зургаадугаар сараас хойш хууль тогтоогчдод танилцуулж буй “Advanced AI Framework”-ийн нэг хэсэг бөгөөд тэд үүнийг зайлшгүй хэрэгжүүлэх шаардлагатай бодлого гэж үзэж байгаа аж.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
For months, executives at top AI labs like OpenAI and Anthropic have been dumping tens of millions of dollars into political action groups, in an obvious bid to curry favor with electoral candidates ahead of the US midterm elections.
And while we have a good idea of how much money top AI companies have spent — at least $55.7 million so-far — their exact policy positions have been difficult to pin down. That is, until now.
According to Politico, a team of representatives from Anthropic have been engaged in quiet talks with lawmakers about the language of a draft bill on AI regulation. As three people familiar with the deliberations told the outlet, Anthropic’s ideal piece of legislation would give the federal government a kill switch to shut down any AI model that poses an imminent threat.
But there’s a major caveat: for the government to claim a model poses an “imminent threat,” the AI would have to risk serious injury or death of 50 people or more, or property damages exceeding $1 billion. On top of that, there are just three categories of risk that would trigger intervention: the release of a biological weapon, a cataclysmic cyberattack, or the model breaking free of the AI lab’s control.
As Politico explains, the decision would be made by a third party monitor, working under the auspices of the Department of Commerce. If the independent watchdog finds that those conditions are about to be met by any upcoming AI model, Anthropic’s proposal goes, they would have 72 hours to report it to Commerce officials, who would then make the decision to present the evidence to a federal judge.
After all that, it would be in the hands of a single judge to choose whether or not to allow the AI model to go out to the public. With such a convoluted set of conditions and web of government and third-party actors, this setup would seem to give a huge amount of discretion to AI labs themselves, which is evidently exactly what they want.
“This bill represents the proposals outlined in Anthropic’s Advanced AI Framework, which we have been advocating for with federal and state lawmakers since June,” an Anthropic spokesperson told Politico. “These are sensible policies we believe Congress should act on.”
More on AI: Eggheads at Anthropic Said They Used Claude to “Solve” Humor
The post Anthropic Secretly Lobbying Government to Only Shut Down an AI Model If It’s Poised to Kill More Than 50 People appeared first on Futurism.
