Хиймэл оюуны салбарын томоохон тоглогч Anthropic компани засгийн газрын хяналтыг зөвхөн томоохон хэмжээний хохирол учирсан тохиолдолд хэрэгжүүлэх хуулийн төсөл боловсруулжээ.
Politico агентлагийн мэдээлснээр, Claude LLM загварыг бүтээгч Anthropic компани АНУ-ын хууль тогтоогчдод хиймэл оюуны аюулгүй байдлын шинэ төслийг танилцуулсан байна. Уг төсөлд зааснаар, хиймэл оюуны загварт засгийн газраас арга хэмжээ авах боломж нь ердөө 50-иас дээш хүн амь насаа алдах эсвэл бэртэх, эсвэл 1 тэрбум ам.доллараас давсан хохирол учрах бодит эрсдэл үүссэн тохиолдолд л хэрэгжихээр тусгагджээ. Энэхүү эрсдэл нь биологийн зэвсэг бүтээх, кибер халдлага үйлдэх эсвэл загвар нь хөгжүүлэгчийн хяналтаас гарах зэрэг нөхцөлтэй уялдаатай байх ёстой аж.
Anthropic компанийн төлөөлөгч энэхүү санал нь тэдний “Advanced AI Framework”-ийн хүрээнд зургаадугаар сараас хойш хууль тогтоогчдод уриалж ирсэн бодлого гэдгийг онцолсон байна. Гэвч шүүмжлэгчид хиймэл оюуны салбарын том компаниуд өөрсдийн үйл ажиллагааг хязгаарлах нэрээр бодит хор уршгийг үл тоож, зөвхөн өөрсдийн ашиг сонирхолд нийцсэн зохицуулалтыг дэмжүүлж байна гэж үзэж байгаа юм.
Энэ оны эхээр Anthropic компанийн аюулгүй байдал хариуцсан тэргүүн “дэлхий ертөнц аюулд орсон” гэх мэдэгдлийн хамт ажлаасаа гарч байсан бол, өнгөрсөн долоо хоногт OpenAI компани аюулгүй байдлын анхааруулгыг ашгийн төлөө үл тоомсорлосон хэмээн АНУ-ын найман мужийн ерөнхий прокуроруудад шүүхэд дуудагдсан билээ. Эдгээр үйл явдал нь технологийн салбарынхан хиймэл оюуны аюулыг хэтрүүлэн ярьж, өөрсдийн хүссэн хүрээндээ зохицуулалт хийхийг оролдож байна гэсэн хардлагыг улам бүр нэмэгдүүлж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Politico recently reported on a confidential draft of a proposed AI safety bill from Anthropic, the company behind Claude LLMs (via Tom’s Hardware). The bill, which has been pitched to US lawmakers, would let the government crack down on a given AI model “only if it poses a foreseeable, imminent risk of more than $1 billion in damages, or of killing or seriously injuring more than 50 people. The risk must stem from the creation or release of a biological weapon, the model evading its developer’s controls or a cyberattack.”
That article pointed out similarities between these proposals and those used in California’s AI legislation, and shares a quote from a spokesperson for the company. “This bill represents the proposals outlined in Anthropic’s Advanced AI Framework, which we have been advocating for with federal and state lawmakers since June,” they said, calling “sensible policies we believe Congress should act on.”
Notably, it has been posited that AI magnates leverage warnings of theoretical, wide-reaching catastrophe to manufacture consent for their self-regulation and expansion while doing little to address the harm AI is already doing (both broadly within industries like the one this website revolves around and directly with regards to human psychology).
Just earlier this year, Anthropic’s safety lead quit with a note that “the world is in peril”—and just last week, OpenAI was accused by eight US states’ attorney generals of ignoring its own safety warnings for the sake of profit. Regulations like what Anthropic has proposed here arguably give tech companies the appearance of capitulation while only restricting them on their own terms. For more on AI, check out our running tally on the dumbest things tech tycoons have said so far.
2026 games: All the upcoming games
Best PC games: Our all-time favorites
Free PC games: Freebie fest
Best FPS games: Finest gunplay
Best RPGs: Grand adventures
Best co-op games: Better together
