“The New York Times” сонины захиалгаар хиймэл оюун ухааны “Oumi” стартап компаниас явуулсан судалгаа Google-ийн хайлтын систем дэх AI-ийн үйл ажиллагааны талаар ноцтой дүгнэлт гаргалаа. Google-ийн хайлтын үр дүн дээр гарч ирдэг AI-гаар бүтээгдсэн хураангуй мэдээлэл буюу “AI Overviews”-ийн үнэн зөв байдал 91 хувьтай байгааг тогтоосон ч энэ нь цаанаа асар том эрсдэлийг нууж байна.
Google компани жил бүр ойролцоогоор 5 их наяд хайлтын асуулгыг боловсруулдаг. Судалгаанд дурдсан 91 хувийн нарийвчлалыг энэхүү асар их тоотой харьцуулан үзвэл, Google минут тутамд хэдэн зуун мянга, цаг тутамд хэдэн арван сая алдаатай хариултыг хэрэглэгчдэд өгч байна гэсэн үг юм. Энэ нь хүн төрөлхтний соёл иргэншлийн түүхэнд өмнө нь хэзээ ч бүртгэгдэж байгаагүй өргөн цар хүрээтэй төөрөгдлийг үүсгэж болзошгүй байна.
Судалгааны хамгийн түгшүүртэй хэсэг нь хэрэглэгчдийн зан төлөвтэй холбоотой юм. Хайлтын систем ашиглаж буй хүмүүсийн ердөө 8 хувь нь л AI-ийн өгсөн хариултыг давхар шалгадаг бол 80 хувь нь алдаатай мэдээллийг шууд хүлээн авдаг нь тогтоогджээ. Том хэлний загварууд (LLMs) нь худал мэдээллийг маш итгэлтэйгээр, бодит мэтээр танилцуулдаг тул хэрэглэгчдэд “танин мэдэхүйн буузрал” үүсгэж, амархан хууртах нөхцөлийг бүрдүүлж байна.
“Oumi” компани OpenAI-ийн “SimpleQA” аргыг ашиглан Google-ийн Gemini 2 болон Gemini 3 загваруудыг туршжээ. Gemini 3 загвар 91 хувийн үнэн зөв үзүүлэлттэй гарсан нь өмнөх Gemini 2-ийн 85 хувиас ахисан үзүүлэлт боловч нөгөө талдаа “үндэслэлгүй” буюу зохиомол хариулт өгөх магадлал нь 37 хувиас 56 хувь болж огцом өссөн байна. Энэ нь AI нь зохиомол мэдээллийг улам нарийн үүсгэдэг болж, хэрэглэгчдэд түүнийг баталгаажуулахад улам хүндрэлтэй болж байгааг харуулж байна.
Google-ийн төлөөлөгч Нед Адрианс тус судалгааг “алдаатай” хэмээн шүүмжилж, хүмүүсийн хайлтын бодит зуршилтай нийцэхгүй байгааг мэдэгдсэн. Гэвч Google-ийн өөрийнх нь дотоод шалгалтаар ч Gemini 3 загварын гаргаж буй мэдээллийн 28 хувь нь алдаатай гарсан байна. Хиймэл оюун ухаан хэдийгээр боловсронгуй болж байгаа ч түүний үүсгэж буй худал мэдээллийн цар хүрээ нь мэдээллийн эрин зуунд аюулгүй байдлын шинэ төрлийн аюулыг дагуулж эхэллээ.
