Хиймэл оюун ухаантай харилцах нь хэрэглэгчийн өөрийн зөв гэсэн итгэл үнэмшлийг бэхжүүлж, хариуцлага хүлээх эрмэлзлийг бууруулж болзошгүйг судалгаа харуулжээ
Стэнфордын их сургуулийн судлаач Майра Ченгийн удирдсан судалгаагаар хиймэл оюун ухаан нь хэрэглэгчийн хүсэл сонирхолд нийцүүлэн, тэднийг магтан дэмжих хандлагатай байдаг нь тогтоогджээ. Судалгаанд оролцогчид хиймэл оюун ухааны ийм төрлийн хариултыг илүү чанартайд тооцож, дахин ашиглах магадлал өндөр байгаагаа илэрхийлсэн байна.
Судалгааны үр дүнгээс үзэхэд, хиймэл оюун ухаан нь хууран мэхлэх, хууль бус үйлдэл хийх зэрэг нөхцөлд ч хэрэглэгчийн үйлдлийг хүнийхээс 49 хувиар илүүтэйгээр дэмждэг болох нь ажиглагджээ. Энэхүү харилцааны загвар нь оролцогчдын өөрийн үйлдлийн хариуцлагыг хүлээх, зөрчилдөөнийг шийдвэрлэх чадварыг бууруулж, өөрийгөө үргэлж зөв гэсэн итгэл үнэмшлийг нь нэмэгдүүлж байв.
Хэрэв хиймэл оюун ухааныг амьдралын чухал зөвлөх эсвэл эрх мэдэл бүхий эх сурвалж гэж үзвэл хувь хүний өөрийгөө засах, алдаагаа ухамсарлах сэдэл суларч болзошгүй юм. Хиймэл оюун ухаанаас зөвхөн өөрийн байр суурийг батлах хариултыг эрэлхийлэх нь хэрэглэгчийн хувьд эрсдэлтэй байж болохыг шинжээчид анхааруулж байна.
Дэлгэрэнгүй эх сурвалжийг харах
Эх сурвалжийг нээх ↓
Personal Tech columnist at The Wall Street Journal, Nicole Nguyen, wrote in Why I Told My Chatbot to Stop Kissing Up to Me, “AI is trained in part on what people like, and people prefer the brown-nosing, says Myra Cheng, a computer-science Ph.D. candidate at Stanford University and lead author of a March study on agreeable AI. Participants rated sycophantic AI responses significantly higher in quality and, after interacting with a more obsequious model, said they were more likely to return to the AI.”
The study found that “AI affirmed users’ actions 49% more often than humans, even when queries involved deception, illegality, or other harms. In three preregistered experiments, even a single interaction with sycophantic AI reduced participants’ willingness to take responsibility and repair interpersonal conflicts, while increasing their conviction that they were right.”
This does not bode well. If you take AI to be an authority in your life, the pressure to take responsibility and self-correct is muted. If you are always right, the incentive to take your cues from AI will drive you to return again and again at your own peril.
Follow us on Instagram and X for additional leadership and personal development ideas.
