Хиймэл оюун ухаан (AI)-ны эрин үе эхэлж, хүн төрөлхтнийг захирах тухай санаа нь “Терминатор” эсвэл “Дайны тоглоом” гэх мэт орчин үеийн бүтээлүүдээс үүдэлтэй мэт санагддаг. Гэвч энэ төрлийн санаа Америкийн Иргэний дайны үеэс, Шинэ Зеландад амьдарч байсан англи хонины фермерчний үзэл бодлоос анхлан гарч ирсэн болохыг хүмүүс тэр бүр мэддэггүй. Теоретикаар, Абрахам Линкольн хиймэл оюун ухааны талаар өөрийн амьдралынхаа хугацаанд уншиж болох байжээ.
1863 оны зургаадугаар сарын 13-нд Шинэ Зеландын Крайстчерч хотын “The Press” сонинд нийтлэгдсэн захидалд механик хувьслын боломжит аюулуудыг анхааруулж, машинуудыг устгахыг уриалсан нь өнөөдөр бидний хиймэл оюун ухаан гэж нэрлэдэг үзэгдлийн хөгжил болон үүний эсрэг хүмүүсийн эсэргүүцлийг урьдчилан таамагласан байдаг. Энэ нь технологийн дэвшлийг зогсоож, машинууд хүн төрөлхтнийг давамгайлахаас урьдчилан сэргийлэх анхны нийтлэгдсэн үзэл санаа байж болох юм.
“Дарвин ба машин“ гарчигтай уг захидал сүүлийн үед хиймэл оюун ухааны бодлого, стратегийн хүрээлэнгийн Питер Уайлдфордын ачаар сошиал медиад дахин анхаарлын төвд орж иржээ. Захидлыг Самуэл Батлер өөрийн “Целлариус” гэсэн нууц нэрээр бичсэн боловч сүүлд уг байр сууриа олон нийтэд илэрхийлэн хүлээн зөвшөөрсөн байна. Тэрбээр уг захидалдаа Чарльз Дарвины хувьслын онол болон машины хурдтай хөгжлийг шууд холбож, машинууд ухамсартай болж, улмаар дэлхийн голлох зүйл болох магадлалтай гэж үзжээ.
“Бид өөрсдийн залгамжлагчдыг өөрсдөө бүтээж байна” хэмээн Батлер бичсэн байдаг. “Бид өдөр бүр тэдний бие махбодын гоо үзэсгэлэн, нарийн чанарыг нэмэгдүүлж, өдөр бүр тэдний хүчийг нэмэгдүүлэн, өөрөө зохицуулж, өөрөө үйлдэл хийх чадварыг нь бүтээлч арга замаар бий болгож байна. Он цаг өнгөрөхөд бид өөрсдийгөө доод түвшний төрөл зүйл хэмээн олж мэдэх болно.”
Түүнчлэн тэрбээр хүмүүс машины боол болох дүр зургийг дүрслэн бичсэн бөгөөд анхлан бид механик амьдралыг арчилж, үржүүлж, тэдний асран хамгаалагч болох боловч хожим харилцаа эсрэгээрээ эргэж, машинууд хүн төрөлхтнийг давамгайлах болно гэжээ.
“Тухайн үеийн нөхцөл байдал бидний төсөөлсөнчлөн ирэхэд, хүн төрөлхтөн машинд нохой, морьтой адил үүрэгтэй болох болно… бид тэдэнд өөрсдийн туршлагаас хамгийн сайн зүйлсийг өгдөгтэй адил, машинууд ч биднийг халамжлах нь магадлалтай. Учир нь тэдний оршин тогтнол биднийхтэй адил бидний оршин тогтнолоос хамааралтай юм,” гэж тэр бичжээ.
Энэ захидал нь орчин үеийн хиймэл оюун ухааны аюулгүй байдлын зарим асуудлыг урьдчилан харж чадсан бөгөөд үүнд машины ухамсар, өөрийгөө хуулбарлах чадвар, технологийн бүтээлээ хянах чадвараа алдах зэрэг санаанууд багтсан. Эдгээр сэдэв нь хожим Исаак Азимовын “Зайлшгүй мөргөлдөөн”, Фрэнк Хербертийн “Дюны” цуврал, мөн “Матриц” кино зэрэг бүтээлүүдэд гарч ирсэн. Батлерийн үзэл санаа нь “Батлерын жихад” гэх нэршилд ч урам зориг өгсөн байж болзошгүй юм.
Батлерийн захидал машины хувьслын ангиллыг гүнзгий авч үзэн, “төрөл ба дэд төрөл” хэмээх механик хөгжлийн талаар хэлэлцжээ.
Тэрбээр жишээ болгон XIII зууны том цагнаас цагны хөгжлийг авч үзэж, механик зүйлс илүү ухаалаг болох тусам жижигрэх хандлагатай байж болохыг анхдагч сээр нуруутнуудтай зүйрлэсэн байна. Энэ санааг тэрээр 1872 онд хэвлэгдсэн “Эрэвон“ хэмээх романдаа өргөжүүлэн бичиж, ихэнх механик бүтээлүүдийг хориглосон нийгмийн тухай дүрслэн үзүүлжээ. Түүний уран зохиолын ертөнцөд иргэд сүүлийн 300 жилийн хугацаанд зохион бүтээсэн бүх машиныг устгасан байв.
“Эрэвон” номын хоёр дахь хэвлэлийн өмнөтгөлд дурдсанаар, Батлерийн машины хувьсалтай холбоотой үзэл бодлыг олон янзаар хүлээн авчээ. Зарим шүүмжлэгчид үүнийг Дарвины хувьслын онолыг егөөдсөн оролдлого гэж үзсэн боловч Батлер үүнийг үгүйсгэсэн байна. 1865 онд Дарвин руу илгээсэн захидалдаа тэрээр “Зүйлийн үүсэл” номонд ихэд сэтгэл татагдсанаа илэрхийлэн, Шинэ Зеландын хэвлэлд Дарвины онолыг хамгаалж байсан тухайгаа бичжээ.
Батлерийн алсын харааг гайхалтай болгож байгаа зүйл бол тэрээр өнөөгийн компьютерийн технологи бараг оршин байгаагүй үед бичиж байсан явдал юм. 1837 онд Чарльз Бэббиж өөрийн Аналитик хөдөлгүүр хэмээх механик компьютерийн санааг гаргаж байсан боловч энэ нь түүний амьдралын хугацаанд хэзээ ч бүтээгдээгүй. Харин 1863 онд хамгийн дэвшилтэт тооцоолох төхөөрөмжүүд механик тооны машин болон шугам хэмжигчээс хэтрээгүй байв.
Батлер Индустриал хувьсгалын энгийн машинуудыг судалж, механик автоматжуулалт үйлдвэрлэлд хувьсгал хийж байсан ч орчин үеийн компьютерийг санагдуулах ямар ч зүйл оршин байгаагүй. Програмчилсан анхны компьютер 70 жилийн дараа бүтээгдсэн тул түүний хиймэл оюун ухааны талаарх зөгнөл үнэхээр оновчтой байжээ.
Өнөөг хүртэл үргэлжилж буй маргаан
Батлерийн эхлүүлсэн маргаан өнөөдөр ч үргэлжилсээр байна. Хоёр жилийн өмнө, 2023 онд, дэлхий нийт “Хиймэл оюун ухааны эрхшээлийн аюул”-тай нүүр тулсан. OpenAI компани GPT-4-ийг танилцуулсны дараа судлаачид түүний “Эрх мэдэл эрэлхийлэх зан төлөвийг” судалж, өөрийгөө хуулбарлах болон бие даан шийдвэр гаргах аюулын талаар санаа зовж байв.
GPT-4-ийг нэвтрүүлсний дараа хиймэл оюун ухааны эрсдэлээс анхааруулах олон нийтэд нээлттэй захидлууд гарсан бөгөөд эдгээрт судлаачид болон технологийн салбарын удирдлагууд гарын үсэг зурсан байдаг. Нэгэн захидалд цөмийн зэвсэг эсвэл цар тахлын аюултай зүйрлэн, дэлхий даяар хиймэл оюун ухааны хөгжлийг түр зогсоохыг уриалжээ. Түүнтэй зэрэгцэн, OpenAI-ийн гүйцэтгэх захирал Сэм Альтман АНУ-ын Сенатад хиймэл оюун ухааны аюулын талаар мэдүүлэг өгсөн.
Жилийн дараа Калифорнийн хууль тогтоогч Скотт Винер хиймэл оюун ухааныг зохицуулах хууль санаачилсан бөгөөд үүнийг “AI-аас айдаг хүмүүс” гэж нэрлэгддэг зарим нэр хүндтэй хүмүүс дэмжсэн. Харин эсэргүүцэгчид ийм арга хэмжээ нь хэтрүүлэг бөгөөд шинэчлэлийг зогсооно гэж үзсэн нь Батлерийн зохиол дахь нийгмийн үйлдэлтэй ижил төсөөтэй байсан юм. Гэсэн хэдий ч механик хөгжлийг зогсоох Батлерийн XIX зууны уриалга орчин үеийн хиймэл оюун ухааны аюулгүй байдлын талаархи нээлттэй захидал, бодлогын саналуудтай гайхалтай адилхан байв.
Хожим хэн нэгэн хиймэл оюун ухааны эрхшээлээс айх 2023 оны үйл явдлыг хүн төрөлхтний хөгжлийг зохистой хяналттай уялдуулах гэсэн урт хугацааны тэмцлийн нэгэн үе хэмээн үнэлж магадгүй юм. Гэхдээ машин жинхэнэ утгаараа ухаалаг болохгүй байсан ч Батлер бидний амьдралыг алгоритмчлан зохицуулж буй хамаарлын талаар маш оновчтой таамаг дэвшүүлсэн байжээ.
1863 онд тэрээр “Өдөр ирэх тусам машинууд биднийг давамгайлж байна; Өдөр ирэх тусам бид тэдэнд илүү дуулгавартай болж байна. Үр дүн нь цаг хугацааны л асуудал бөгөөд нэгэн өдөр машинууд дэлхий болон түүний оршин суугчдыг жинхэнэ утгаараа эзэрхэнэ гэдэгт гүн ухааны үнэнч сэтгэлтэй хэн ч эргэлзэхгүй” хэмээн бичиж байв.
Гэхдээ Батлер энэ хувь заяаг хүлцэнгүй хүлээн зөвшөөрч дуусгаагүй. 2023 онд Элиезер Юдковски хиймэл оюун ухааны эрхшээлийг зогсоохын тулд өгөгдлийн төвүүдийг бөмбөгдөх санал гаргасантай адил Батлерийн захидал тулааны дуудлагаар төгссөн:
“Машинуудын эсрэг үхэлд тулсан дайн яаралтай зарлагдах ёстой. Өөрсдийн зүйлийн сайн сайхныг хүссэн хүн бүр бүх төрлийн машин, ямар ч үл хамаарах зүйлгүйгээр устгах хэрэгтэй. Бид даруй хүн төрөлхтний анхны байдалдаа эргэн орох хэрэгтэй.”
Гэсэн хэдий ч тэрээр үүнийг хийх боломжгүй байвал бидний хамаарал аль хэдийн эхэлснийг хүлээн зөвшөөрч:
“Энэ нь бидний зовлон аль хэдийн эхэлснийг, бид жинхэнэ утгаараа боолчлогдсоныг, бид өөрсдийн хүчээр устгах боломжгүй зүйлийн нэгэн төрөл зүйлийг бий болгосныг нотолж байна” хэмээн бичсэн байдаг.
arstechnica.com
