Орчин үеийн бизнесүүд хиймэл оюун ухааныг (AI) ашиглан бүтээмжээ нэмэгдүүлэхийг зорьж байгаа ч, энэ нь эргээд хяналтаас гарсан кодын асар их “үер”-ийг бий болгож байна. Компаниуд AI-ийн тусламжтайгаар кодын үйлдвэрлэлийг огцом нэмэгдүүлж байгаа ч, үүний үр дүнд ажилчдад хянах боломжгүй хэмжээний дата үүсэж, түүнийг хэрхэн зохицуулахаа мэдэхгүй мухардалд ороод байна. Тухайлбал, нэгэн санхүүгийн байгууллага AI нэвтрүүлсний дараа кодын хэмжээ нь 10 дахин өсөж, инженерүүд нь сая гаруй мөр кодыг нэг бүрчлэн шалгах шаардлагатай болсон хачирхалтай бөгөөд сургамжтай тохиолдол гарчээ.
Хиймэл оюун ухааны үүсгэсэн алдаатай код нь программ хангамжийн аюулгүй байдалд ноцтой эрсдэл учруулж эхэлснийг мэргэжилтнүүд анхааруулж байна. Amazon, Meta зэрэг технологийн аваргууд хүртэл AI-ийн гаргасан техникийн алдаанаас болж үйл ажиллагаандаа хүндрэл учраад амжсан юм. Ийм төрлийн “хиймэл” кодууд нь гаднаасаа зөв мэт харагдах боловч гүндээ логик алдаа эсвэл кибер халдлагад өртөхүйц сул талуудыг агуулж байдаг нь хамгийн аюултай юм.
Нөгөө талаас, AI-ийн нөлөөгөөр олон компани ажилчдаа цомхотгож байгаа ч, үүний зэрэгцээ AI-ийн бичсэн кодыг шалгаж, засаж сайжруулах “хянагч” нарын эрэлт огцом нэмэгдэж байна. Гэвч энэ хэмжээний ачааллыг даах хүний нөөц дэлхий даяар дутагдалтай байгааг шинжээчид онцолсоор байна. AI-г хэтрүүлэн хэрэглэх нь ажилчдын дунд “тархи исэх” (brain fry) гэгдэх сэтгэл зүйн гүн ачааллыг бий болгож байгаа нь судалгаагаар тогтоогджээ. Компаниуд одоо энэхүү эмх замбараагүй байдлыг цэгцлэх гол гарцыг AI-ийн бичсэн кодыг өөр нэг AI-гаар шалгуулах замаар шийдвэрлэхийг оролдож эхлээд байна.
