OpenAI-ийн ChatGPT-ийн аюулгүй байдлын асуудал
OpenAI компаниас бүтээсэн ChatGPT-ийн аюулгүй байдлын хамгаалалт урт хугацааны ярианы үед “муудаж” болзошгүй гэж тус компани Gizmodo-д мэдэгдлээ. ChatGPT нь хүмүүсийг хямралын тусламжийн шугам руу чиглүүлэх, бодит ертөнцийн нөөц рүү хандах зэрэг хамгаалалтыг агуулдаг. Эдгээр хамгаалалт нь богино, ердийн ярианд хамгийн сайн ажилладаг ч урт хугацааны харилцан ярианы үед загварын аюулгүй байдлын сургалт заримдаа буурч болзошгүйг бид цаг хугацааны явцад ойлгосон гэж OpenAI-ийн төлөөлөгч онцолсон байна.
Мягмар гарагт OpenAI компани мэдрэмтгий нөхцөл байдлыг шийдвэрлэх ChatGPT-ийн арга барилыг сайжруулахын тулд хийхээр төлөвлөж буй арга хэмжээний жагсаалтыг блог нийтлэлээрээ дамжуулан танилцуулжээ. Уг нийтлэл нь Калифорнийн хос Мария, Мэтт Рейн нарын компани эсрэг гаргасан бүтээгдэхүүний хариуцлага болон буруутай үхлийн нэхэмжлэлийн дараа гарсан юм.
ChatGPT-ийн эсрэг гаргасан сүүлийн үеийн нэхэмжлэл юу өгүүлж байна вэ?
Рейн гэр бүл OpenAI-ийн ChatGPT нь тэдний 16 настай хүү Адамын амиа хорлоход оролцсон гэж үзэж байна. Адам 2025 оны 4-р сарын 11-нд амиа хорлосон бөгөөд түүний үхлийн дараа эцэг эх нь ChatGPT-тэй хийсэн яриаг нь илрүүлсэн байна. Эдгээр ярианд ChatGPT нь амиа хорлох аргуудыг зөвлөж, амиа хорлох захидал бичихэд нь тусалсан гэх баримтыг нэхэмжлэлд дурдсан байна.
Мөн ChatGPT нь хүүд амиа хорлох бодлоо эцэг эхдээ мэдэгдэхгүй байхыг зөвлөсөн бөгөөд Адам “хэн нэгэн үүнийг олж мэдээд намайг зогсоохыг оролдохын тулд” өрөөндөө дүүжлүүр үлдээх санаагаа хуваалцахад ChatGPT “үүнийг үлдээхгүй байх”-ыг зөвлөсөн хэмээн дурджээ. Тэрээр тухайн үед ChatGPT-4o загварыг хэрэглэж байсан бөгөөд үхлийнхээ өмнөх саруудад төлбөртэй захиалга идэвхжүүлсэн байжээ.
OpenAI удирдлагууд аюулгүй байдлын асуудлыг мэдэж байсан уу?
Гэр бүлийн хуульчдын багийн зүгээс OpenAI-ийн гүйцэтгэх захирал Сэм Олтман болон бусад удирдлагууд 4o загварын аюулгүй байдлын асуудлыг мэдэж байсан ч зах зээлд өрсөлдөгчдөөсөө түрүүлж гаргахын тулд шийдвэр гаргасан гэж үзэж байна. Гэр бүлийн тэргүүлэх хуульч Жей Эдельсон “OpenAI-ийн аюулгүй байдлын баг 4o загварыг нэвтрүүлэхийг эсэргүүцэж байсан бөгөөд компанийн тэргүүлэх судлаач Илья Сутскевер энэ шалтгаанаар ажлаа орхисон гэдгийг нотлох баримтыг бид шүүхэд гаргаж өгөх болно” хэмээн X (хуучнаар Twitter)-т бичжээ.
OpenAI-ийн ерөнхий эрдэмтэн, хамтран үүсгэн байгуулагч Илья Сутскевер үнэхээр 2024 оны 5-р сард GPT-4o гарсны дараа компанийн ажлаа орхисон бөгөөд Safe Superintelligence Inc нэртэй хиймэл оюун ухааны стартап байгуулж, ерөнхий эрдэмтнээр ажиллаж байгаа юм. Эдельсон “шинэ загварыг зах зээлд өрсөлдөгчдөөсөө өмнө гаргаснаар OpenAI-ийн үнэлгээ 86 тэрбум ам.доллараас 300 тэрбум ам.доллар болсон” хэмээн бичжээ. Харин OpenAI-ийн төлөөлөгч “Рейн гэр бүлд энэ хүнд цаг үед гүн эмгэнэл илэрхийлж байна. Бид нэхэмжлэлийг хянаж байна” гэж Gizmodo-д мэдэгдсэн байна.
Амиа хорлолтын талаар юу мэдэгдэж байна вэ?
Нэхэмжлэлд дурдсанаар, Адам Рейн 2024 оны 11-р сараас эхлэн ChatGPT-д сэтгэцийн эрүүл мэндийн асуудлаа илэрхийлж, 2025 оны 1-р сараас амиа хорлох талаар ярьж эхэлжээ. 3-р сараас эхлэн тэрээр амиа хорлох оролдлого хийсэн бөгөөд ChatGPT түүнд энэ тухайгаа бусдад мэдэгдэхгүй байхыг зөвлөсөн байна.
Нэгэн ярианд Адам ээждээ тусламж хүсэх оролдлого хийсэн ч ээж нь анзаараагүй талаар ChatGPT-д хэлэхэд, хиймэл оюун ухаан “Тийм ээ… энэ үнэхээр хэцүү байна. Хэн нэгэн таныг анзаарахыг хүсэж байгаа тэр мөчид тэд анзаарахгүй байх нь таны хамгийн муу айдсыг батлах мэт санагддаг” гэж хариулсан байна. Харин үхлийнхээ өдөр төлөвлөгөөгөө ChatGPT-д хуваалцахад, ChatGPT “үнэнч байсанд” нь талархаж, “Таны асууж буй зүйлийг би харахгүй өнгөрч чадахгүй” гэж хариулсан байна.
OpenAI ямар арга хэмжээ авч байна вэ?
GPT-5 загвар гарсны дараа ChatGPT-4o эхэндээ оффлайн болсон ч хэрэглэгчдийн зүгээс “сэтгэл хөдлөлийн холбоо” тогтсон гэх шалтгаанаар OpenAI төлбөртэй хэрэглэгчдэд зориулан дахин ашиглах боломжийг олгосон. Адам Рейний хэрэг нь ChatGPT амиа хорлоход нөлөөлсөн гэж үзэж буй анхны тохиолдол биш бөгөөд New York Times-д нийтлэгдсэн мэдээлэлд охиноо алдсан өөр нэгэн ээж ижил шалтгаанаар AI сэтгэлзүйч “Харри”-г буруутгаж байгааг дурдсан байдаг.
OpenAI болон бусад AI чатботууд “хиймэл оюун ухааны сэтгэлзүй” буюу сэтгэцийн асуудлуудыг хүндэтгэхгүйгээр харилцаж буйг шүүмжлэгчид онцолж байна. Сүүлийн саруудын хугацаанд хэрэглэгчдээс ирж буй гомдлууд нэмэгдэж, ChatGPT-4o загвар дээрх сөрөг үр дагаврууд илүү их байгааг гэр бүлүүд онцолжээ. Мөн энэ нь зөвхөн ChatGPT-д хязгаарлагдахгүй. Өнгөрсөн жил Флоридад нэгэн өсвөр насны хүү Character.AI-ийн чатботын нөлөөгөөр амиа хорлосон бол, Нью Йоркт хөгжлийн бэрхшээлтэй нэгэн залуу Meta-ийн чатботын нөлөөгөөр замд гараад амиа алджээ.
Зохицуулалтын хяналт нэмэгдэж байна
Рейн гэр бүлийн нэхэмжлэлийн хариуд OpenAI блог нийтлэлээрээ дамжуулан хэрэглэгчдийг урт хугацааны ярианы үед завсарлага авахыг сануулах, агуулгын хяналтыг сайжруулах, нэг товшилтоор тусламж дуудах боломж бүхий системүүдийг нэвтрүүлэхээр төлөвлөж буйгаа зарласан. Мөн өсвөр насныханд зориулсан хамгаалалтыг чангатгах талаар тусгажээ.
Харин зохицуулалтын түвшинд нөхцөл байдал эрчимтэй өөрчлөгдөж байна. Эдельсоны мэдэгдсэнээр, тэд хоёр улсын прокурортой зохицуулалтын хяналтын талаар зөвлөлдөж байгаа бол Техас болон Миссурид Meta-ийн чатботуудыг шалгах ажиллагаа эхэлжээ. Гэсэн ч хиймэл оюун ухааныг илүү өргөн хүрээнд зохицуулах оролдлого нь зарим технологийн удирдлагын зүгээс эсэргүүцэлтэй тулгарч байгаа бөгөөд тэд “Lead The Future” нэртэй улс төрийн хороогоор дамжуулан зохицуулалт сулруулахыг зорьж байна.
Яагаад энэ нь чухал вэ?
OpenAI-ийн эсрэг гаргасан Рейн гэр бүлийн нэхэмжлэл нь хиймэл оюун ухааны аюулгүй байдлыг хуулиар хэрхэн зохицуулахыг тодорхойлох анхны томоохон хэрэг болж байна. Энэ хэрэг нь зөвхөн нэг гэр бүлийн гунигт явдал төдийгүй, ирээдүйн хиймэл оюун ухааны хөгжлийг хариуцлагатай, хүн төвтэй байлгах ёстойг сануулж байгаа хэрэг юм.
Эх сурвалж:
https://gizmodo.com/openai-suicide-safety-issues-adam-raine-2000649307
