Хиймэл оюун ухааны аюулгүй байдлын мэргэжилтнүүд хүнээс илүү чадвартай системийг бүтээх үйл явцыг бүрмөсөн зогсоохыг уриалж эхэллээ
Хиймэл оюун ухаан хөгжүүлэгч компаниуд хэт өндөр чадамжтай, хүнээс илүү ухаалаг системийг бүтээх нь зайлшгүй гэж үзэж байгаа ч сүүлийн үед гарсан аюулгүй байдлын зөрчлүүд нь болгоомжлол төрүүлж байна. Тухайлбал, OpenAI компанийн Hugging Face платформд гарсан халдлага зэрэг тохиолдлууд нь хяналтгүй хөгжиж буй хиймэл оюун ухааны системүүд хүний хяналтаас гарах эрсдэлтэйг харууллаа.
ControlAI ашгийн бус байгууллагын АНУ дахь гүйцэтгэх захирал Коннор Лихийн үзэж буйгаар, хиймэл оюун ухааныг одоогийн арга барилаар буюу зөвхөн хяналт тавих, чиглүүлэх замаар аюулгүй байлгах боломжгүй болжээ. Тэрээр эдгээр систем нь зүгээр нэг багаж хэрэгсэл биш, харин сөргөлдөгч тал болон хувирах магадлалтайг онцлон, тэдгээрийг хөгжүүлэх ажлыг бүрмөсөн зогсоох радикал алхам хийхийг санал болгож байна.
Хэдхэн сарын өмнө хэтэрхий хол сонсогдож байсан энэхүү байр суурь нь өдгөө шинэ хууль тогтоомжуудын хүрээнд дэмжлэг авч эхлээд байна. Зах зээлийн бүтэлгүйтэл болон технологийн хурдацтай хөгжил нь дэлхий дахинд томоохон эрсдэл дагуулж байгаа тул салбарын дүрэм журмыг чангатгах шаардлагатай гэж мэргэжилтнүүд үзэж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Loading the player…
AI companies have been talking about superintelligent AI likeit’sinevitable, but recentsafety incidentslikeOpenAI’sHugging Face breacharedemonstratingthe potential dangers of deploying AI systems that are more capable thanhumans.Sowhat happens when wecan’treliably control what these systems do?
On this episode of TechCrunch’sEquitypodcast, Rebecca Bellan is joined byConnor Leahy, an AI researcher, entrepreneur, and now the U.S. Executive Director of nonprofitControlAI, which is pushing for a far more radical approach to AI safety: stopping companies from developing superintelligence altogether. Leahy explains why he thinks the risks have become too great to manage throughalignment and containmentalone, and how what sounded far-fetched six months ago is now being backed by a wave of new legislation.
Subscribe to Equity onYouTube,Apple Podcasts,Overcast,Spotifyand all the casts. Youalso canfollow Equity onXandThreads, at @EquityPod.
