OpenAI-ийн гүйцэтгэх захирал Сэм Олтман 2025 онд “head of preparedness” буюу бэлэн байдлын багийг удирдах шинэ албан тушаал зарлаж, энэ ажил “эхнээсээ л өндөр дарамттай, шууд гүн рүү үсэрнэ” гэж тодотгов. Ажлын зарын дагуу тус албан тушаалын жилийн цалин 555,000 ам.доллар бөгөөд компанийн аюулгүй байдлын хэлтэс дэх бэлэн байдлын хөтөлбөрийг “өргөжүүлж, бэхжүүлж, чиглүүлэх” үүрэгтэй.
Энэ баг нь OpenAI-ийн загварууд бодит орчинд “зорьсон ёсоороо ажиллах” нөхцөлийг хангах хамгаалалтуудыг хөгжүүлдэг. Гэвч 2025 онд ChatGPT хууль эрх зүйн баримт бичигт худал мэдээлэл “зөгнөх” (hallucination) тохиолдлуудаа үргэлжлүүлж, АНУ-ын Холбооны худалдааны комисст (FTC) хэрэглэгчдийн сэтгэцийн эрүүл мэндэд сөргөөр нөлөөлсөн гэх зэрэг олон гомдол бүртгэгдсэн талаар хэвлэлүүд мэдээлсэн. Мөн зураг засварын боломжууд нь хувцастай эмэгтэйчүүдийн зургийг “бикини” хэлбэрийн deepfake болгон хувиргаж болзошгүй тухай асуудал хөндөгдөж, Sora видео үүсгэгч дээр түүхэн зүтгэлтнүүдийг дур зоргоор хэлүүлж ашиглах явдлаас шалтгаалан Мартин Лютер Кинг Жр.-тэй холбоотой контент үүсгэх боломжийг хязгаарласан тохиолдол гарсан.
OpenAI-ийн бүтээгдэхүүнтэй холбоотой маргаан шүүхэд хүрэх үед компани хэрэглэгч “дүрэм зөрчин буруугаар ашигласан” гэх байр суурь баримтлах нь бий. Тухайлбал, Адам Рэйн нэртэй хүний нас барсантай холбоотой буруу үйл ажиллагааны нэхэмжлэлд OpenAI-ийн өмгөөлөгчид 2025 оны 11-р сард дүрэм зөрчсөн хэрэглээ нөлөөлсөн байж болзошгүй гэсэн агуулгатай тайлбар гаргасан гэж мэдээлжээ.
Олтман уг ажлын зарлалтай зэрэгцэн AI загварууд сэтгэцийн эрүүл мэндэд нөлөөлөх, кибер аюулгүй байдлын эмзэг цэгүүдийг илрүүлэх зэрэг эрсдэлийг илүү нарийвчилсан аргаар хэмжих, буруугаар ашиглагдах боломжийг ойлгож хязгаарлах шаардлага нэмэгдэж байгааг онцолсон. Түүний хэлснээр зорилго нь эрсдэлийг бууруулж, ашиг тусыг үргэлжлүүлэн хүртэх “тэнцвэр”-ийг олох.
Шинэ “бэлэн байдлын” дарга нь OpenAI-ийн бэлэн байдлын стратегийг “эхнээс нь дуустал” хариуцаж, загваруудын хүсээгүй чадвар, эрсдэлийг үнэлэх шалгуур, бууруулах арга хэмжээг (mitigation design) бүтээгдэхүүнүүдийн шинэ хувилбарууд болон ирээдүйн төслүүдэд хэрэгжүүлэх ёстой. Ажлын тодорхойлолтод шинээр гарч ирэх эрсдэл, чадавх, гаднын хүлээлт өөрчлөгдөх үед бэлэн байдлын хүрээг шинэчлэх шаардлагатай гэж тусгасан байна.
Энэ ажил OpenAI өндөр хурдаар бүтээгдэхүүн гаргаж, орлогоо эрчимтэй өсгөх зорилготой үе шаттай давхцаж байна. Сэм Олтман 2025 оны 11-р сард өгсөн ярилцлагадаа компанийн жилийн орлого (ойролцоогоор 13 тэрбум ам.доллароос дээш гэж яригдаж буй)-ыг 2 жил хүрэхгүй хугацаанд 100 тэрбум ам.долларт хүргэх зорилгыг илэрхийлж, хэрэглэгчийн төхөөрөмжийн бизнес болон “шинжлэх ухааныг автоматжуулах” чадвартай AI их үнэ цэн бүтээнэ гэж байр сууриа илэрхийлсэн.
