Салбарын томоохон компаниуд хиймэл оюуны хэт хурдацтай хөгжил нь ирээдүйд хяналтаас гарахад хүргэж болзошгүй гэж үзэн нэгдсэн зохицуулалт хийхийг уриаллаа
Сүүлийн жилүүдэд хиймэл оюуны салбарын тэргүүлэх лабораториуд “ялагч нь бүгдийг авдаг” зарчмаар өрсөлдөж, хүчирхэг хиймэл оюуныг бүтээхийн тулд хэт хурдтай ажиллаж байв. Гэвч өнгөрсөн амралтын өдрүүдэд салбарын удирдагчид байр сууриа өөрчилж, хяналтгүй хөгжүүлэлтээс үүсэх эрсдэлийг бууруулахын тулд хөгжүүлэлтийн хурдыг сааруулах шаардлагатай байгааг онцоллоо.
Anthropic компанийн захирал Дарио Амодей 4000 орчим үгтэй илтгэлдээ хиймэл оюуны загваруудын чадавхыг сайжруулах хурдыг багасгах нь зүйтэй гэж мэдэгджээ. Тэрээр арилжааны өрсөлдөөнөөс үүдэлтэй энэхүү уралдаан нь сүйрлийн аюултай эрсдэлийг нэмэгдүүлж болзошгүйг анхааруулсан байна.
Энэхүү санаачилгыг OpenAI-ийн үүсгэн байгуулагч бөгөөд гүйцэтгэх захирал Сэм Альтман дэмжиж буйгаа илэрхийлж, тус компанид ч мөн адил хөгжүүлэлтийн хурдыг зохицуулах талаар хэлэлцэж байгааг мэдээлэв. Түүнчлэн Google DeepMind-ийн үүсгэн байгуулагч Демис Хассабис салбар даяар мөрдөх стандарт тогтоох байгууллага байгуулах шаардлагатай гэж үзэж буйгаа дахин давтлаа.
Microsoft компанийн гүйцэтгэх захирал Сатья Наделла ч мөн үүнтэй ижил байр суурьтай байгаагаа илэрхийлж, хиймэл оюуныг ёс зүйтэй, хүнлэг байдлаар хөгжүүлэх дүрэм журмыг боловсруулахын тулд судалгаа болон төлөвлөгөөт хөгжүүлэлт чухал болохыг тэмдэглэв. Салбарын удирдагчдын энэхүү шийдвэр нь хиймэл оюуны хөгжлийг илүү аюулгүй, хяналттай болгох чиглэл рүү шилжиж буй томоохон өөрчлөлт болж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
For years now, the major frontier AI labs have all been acting as if they’re in an all-out, winner-take-all race with control of world-changing machine superintelligence (or at least market-changing artificial general intelligence) at the finish line. This weekend, the industry as a whole rapidly started turning away from that posture, urging coordination on slowing down the development of frontier AI that they say could soon be too dangerous and unknowable to control.
Anthropic’s Dario Amodei was at the forefront of this change in tone, arguing in a nearly 4,000 word essay this weekend that “we must slow the pace at which we improve the capabilities of AI models” to avoid “a race to the bottom, spurred by commercial incentives, [that] can make [catastrophic] risks more acute.”
Within hours, other AI leaders were echoing the same call. OpenAI co-founder and CEO Sam Altman posted his agreement on social media and said similar pacing discussions had been taking place at OpenAI. Alphabet Chief Scientist and Google DeepMind Co-Founder and Chair Demis Hassabis said that Amodei’s essay “points towards the right path forward,” and renewed his own recent call for an industry-wide standards body. Microsoft CEO Satya Nadella posted that the company “welcome[s] the research, focus, and deliberate pacing needed to get alignment right as the design goal,” ahead of the release of a lengthy “humanist AI” code of conduct for its models.
