АНУ-д хиймэл оюун ухааны технологийн хөгжлийн эсрэг олон нийтийн байр суурь улам бүр сөрөг болж байгаатай холбогдуулан томоохон компаниуд эрсдэлийн удирдлагын төлөвлөгөөгөө чангатгаж байна.
Wall Street Journal болон Politico агентлагийн судалгаагаар америкчуудын дийлэнх нь хиймэл оюун ухааны хөгжлийг түр зогсоохыг дэмжиж, технологийн аюулгүй байдалд түгшүүртэй хандаж байгаа нь тогтоогджээ. Энэхүү сөрөг хандлага нь компанийн удирдлагуудыг олон нийтийн бослого эсвэл технологийн гамшиг тохиолдсон үед авах арга хэмжээний “дайны тоглоом” (wargaming) буюу нөхцөл байдлын дасгал сургуулилт хийхэд хүргэж байна.
OpenAI болон Anthropic зэрэг тэргүүлэгч компаниуд өөрсдийн бүтээгдэхүүнээс үүдсэн кибер халдлага эсвэл олон нийтийн томоохон эсэргүүцлийн үед хэрхэн хариу үйлдэл үзүүлэхээ нарийвчлан боловсруулж байна. OpenAI-ийн зүгээс эдгээр дасгал сургуулилтыг аливаа эрсдэлд бэлтгэлтэй байх зорилгоор хийж буй ердийн үйл ажиллагаа хэмээн тайлбарласан юм.
Anthropic компани нь илүү хатуу байр суурь баримталж, эсэргүүцлийн хөдөлгөөнүүдийг тандах зорилгоор урьдчилан сэргийлэх тагнуулын тогтолцоог бүрдүүлж байгаа талаар мэдээлэл гарчээ. Технологийн салбарын удирдлагууд ийнхүү болзошгүй эрсдэлийг тооцоолж эхэлсэн нь хиймэл оюун ухааны эсрэг чиглэсэн нийгмийн сөрөг хандлага салбарын хүрээнд ноцтой асуудал болж буйг харуулж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
In the United States, public sentiment against the rising power of AI labs and their CEOs is overwhelmingly negative.
As Wall Street Journal polling from late September found, 63 percent of US adults support an immediate pause on AI development, while a Politico survey found about two-thirds of Americans have at least “moderate” anxieties over AI destroying humanity.
When the scope of that public backlash first came into focus, tech billionaires like Mark Zuckerberg responded with some tone-deaf media stunts, hoping to win back hearts and minds by the millions. Now that this strategy has clearly failed, executives at top AI labs are starting to workshop standard operating procedures in the event of a massive revolt against them.
This includes leaders at Anthropic and OpenAI, according to Axios, which broke the story. These amount to Pentagon-style “war games,” essentially, with AI labs hammering out responses to hypothetical scenarios like massive cyberattacks enabled by their products, or a political revolt in reaction to some sort of catastrophic event triggered by their models.
Approached by Axios for comment, OpenAI was nonchalant about the whole affair, replying that “OpenAI conducts preparedness exercises where teams discuss and work through a range of potential scenarios.”
“These scenarios are not treated as inevitable, but are meant to help us prepare for a variety of circumstances,” the spokesperson continued.
Anthropic declined to comment, though anxiety about social unrest isn’t out of character for the company’s executives. In September, it was reported that Anthropic was building out a surveillance apparatus to keep tabs on anti-AI protest movements, which included taking a “pre-crime” approach to intelligence gathering.
How serious a threat any of this actually is remains hard to say. Nonetheless, the fact that top tech execs are even considering the possibility is notable —a sign that if nothing else, the anti-AI backlash has them squirming in their board room chairs.
More on civil unrest: Protesters Crash Pro-Data Center Party, Escorted Out by Security
The post OpenAI Wargaming Response in Case of Public Revolt After Catastrophic AI Disaster appeared first on Futurism.
