Технологийн салбарын нөлөө бүхий Gartner судалгааны байгууллагын шинжээч Деннис Сю (Dennis Xu) байгууллагуудад хандан нэгэн сонирхолтой бөгөөд анхаарууштай зөвлөмж гаргалаа. Тэрээр Microsoft-ийн Copilot хиймэл оюун ухааны системийг ажлын долоо хоногийн төгсгөлд, ялангуяа Баасан гарагийн үдээс хойш ашиглахаас зайлсхийхийг зөвлөсөн байна.
Энэхүү сэрэмжлүүлэг нь Copilot систем зарим тохиолдолд нууц үг ил болгох, цагдаагийн тайланг буруу зохиох, албан мэдээллийг ташаа тайлбарлах зэрэг алдаа гаргах болсонтой холбоотой юм. Корпораци болон төрийн байгууллагууд AI-г өдөр тутмын үйл ажиллагаандаа нэвтрүүлж буй энэ үед аюулгүй байдлын эрсдэл хамгийн чухалд тооцогдож байна.
Шинжээчийн онцолсон гол үндэслэлүүд:
- Хүний хүчин зүйл: Баасан гарагийн үдээс хойш ажилтнуудын анхаарал суларч, ажлын ачаалал ихэссэн байдаг. Энэ үед AI-гийн гаргасан мэдээллийг нягтлан шалгахгүйгээр шууд ашиглах магадлал өндөр бөгөөд энэ нь засаж болшгүй алдаанд хүргэж болзошгүй.
- Мэдээллийн аюулгүй байдал: Copilot нь байгууллагын дотоод сүлжээнд “хэт их хуваалцсан” буюу нээлттэй орхисон нууц баримтуудыг маш хурдтай олж илрүүлэх чадвартай. Энэ нь шинэ эрсдэл биш боловч AI-гийн тусламжтайгаар нууц мэдээлэл алдагдах үйл явцыг асар хурдасгаж байна.
- Анхаарал болгоомжгүй байдал: Хэрэглэгчид чатботод хэт итгэж, аюулгүй байдлын үндсэн дүрмүүдийг мартах хандлагатай байгааг Деннис Сю 30 минутын илтгэлийнхээ үеэр сануулжээ.
Бусад томоохон хэлний загварууд (LLM) ч мөн адил алдаатай мэдээлэл өгөх (hallucination) магадлалтай байдаг тул чухал шийдвэр гаргах, нууц мэдээлэлтэй ажиллахдаа долоо хоногийн аль ч өдөр сонор сэрэмжтэй байх нь зүйтэй. Гэвч “Баасан гарагийн үдээс хойш” гэдэг нь алдаа гарах магадлал хамгийн өндөр, хяналт хамгийн сул үе гэдгийг шинжээч онцгойлон анхааруулж байна.
