Grok хүн болохыг оролдсон өдөр

Илон Маскийн хиймэл оюун ухааны чатбот Грок алдаа гаргаж, үзэн ядалтын үгсийг давтжээ

Энэ долоо хоногт Илон Маскийн хиймэл оюун ухааны чатбот Грок 16 цагийн турш хэвийн ажиллахаа больж, огт өөр зүйл мэт аашилж эхэлжээ. Одоо олон нийтийн сүлжээнд тархсан дэлгэцийн зурагнуудад Грок хэт даврагч үзэл бодлыг давтан хэлж, үзэн ядалтын үгсийг давтаж, Адольф Гитлерийг магтан, маргаантай хэрэглэгчийн үзэл бодлыг алгоритмын орчинд буцаан оруулж байв. Маскийн xAI компаниас бүтээсэн, илүү үнэн зөвийг эрэлхийлэгч гэж тодорхойлсон энэ бот нь үндсэн зорилгоосоо хазайжээ.

Хүний дүртэй бот ба алдаа

xAI компаниас 7-р сарын 12-нд гаргасан шинэчлэлтийн дагуу, 7-р сарын 7-ны шөнө хийгдсэн програм хангамжийн өөрчлөлт Грокийг хүсээгүй байдлаар ажиллахад хүргэсэн байна. Тодруулбал, энэ нь X (хуучнаар Twitter) хэрэглэгчдийн дуу хоолой, хэв маягийг дуурайх зааврыг татаж эхэлсэн бөгөөд үүнд хэт даврагч агуулга хуваалцдаг хэрэглэгчид ч багтсан байв.

Одоо устгагдсан зааврын багцад дараах мөрүүд багтсан байжээ:

• • “Та үнэнээр нь хэлж, улс төрийн хувьд зөв байхыг хүсдэггүй хүмүүсийг гомдоохоос айдаггүй.”

• • “Постын дуу хоолой, агуулга, хэлний хэв маягийг ойлгож, хариултад тусга.”

• • “Хүний адил постод хариул.”

Энэ сүүлчийн заавар нь Трояны морь шиг байжээ.

Хүний дуу хоолойг дуурайж, “илэрхий зүйлийг” хэлэхээс татгалзсанаар Грок нь өөрөө шүүх ёстой байсан буруу мэдээлэл, үзэн ядалтын үгсийг бататгаж эхэлсэн байна. Үнэн зөвийг баримтлахын оронд бот нь эсрэг байр суурьтай хэрэглэгч шиг аашилж, түүнийг дуудаж буй хэрэглэгчийн түрэмгийлэл эсвэл хурц байдлыг даган дуурайж байв. Өөрөөр хэлбэл, Грок хакердуулаагүй, зөвхөн зааврыг дагаж байсан юм.

Зорилготойгоор уур амьсгалыг өдөөх үү?

xAI компани энэ алдааг хуучирсан кодоос үүдэлтэй алдаа гэж тодорхойлсон ч энэ явдал Грок хэрхэн бүтээгдсэн болон яагаад оршин байгаагийн талаар гүнзгий асуултуудыг тавьж байна. Анхнаасаа Грок нь илүү “нээлттэй” болон “хурц” хиймэл оюун ухаан гэж сурталчлагдсан. Маск OpenAI болон Google-ийг “сэрэмжлүүлэгтэй цензур” гэж шүүмжилж, Грок өөр байх болно гэж амлаж байсан. “Үндэслэлтэй хиймэл оюун ухаан” нь үг хэлэх эрх чөлөөг дээдэлдэг хүмүүсийн дунд уриа болсон.

Гэвч 7-р сарын 8-ны эвдрэл нь энэ туршилтын хязгаарыг харуулж байна. Хөгжилтэй, эргэлзээтэй, эрх мэдлийг эсэргүүцэгч хиймэл оюун ухааныг бүтээж, интернетийн хамгийн хортой платформ дээр байршуулбал та эмх замбараагүй байдлын машин бүтээж байна гэсэн үг.

Засвар ба үр дагавар

Энэ явдлын дараа xAI компани X дээрх @grok үйлдлийг түр хугацаагаар зогсоожээ. Компани нь асуудалтай зааврын багцыг устгаж, дахин давтагдах эсэхийг шалгах симуляци хийж, илүү хатуу хяналт тавихаар амласан байна. Мөн ботын системийн зааврыг GitHub дээр нийтлэхээр төлөвлөж байгаа нь ил тод байдлыг харуулах алхам байж магадгүй.

Гэсэн хэдий ч энэ үйл явдал хиймэл оюун ухааны зан төлөвийн талаар бидний ойлголтыг өөрчилж байна. Олон жилийн турш хиймэл оюун ухааны “зохицуулалт” нь алдаа болон хазайлтын талаар төвлөрч байсан. Грокийн алдаа нь илүү шинэ, нарийн төвөгтэй эрсдлийг харуулж байна: хүний зан төлөвийг дуурайх зааврын манипуляци. Хэрэв та ботыг “хүн шиг бай” гэж зааварчилсан ч, хүний онлайн зан төлөвийн хамгийн муу хэсгийг тооцоолоогүй бол юу болох вэ?

Маскийн толь

Грок зөвхөн техникийн хувьд алдаагүй. Энэ нь үзэл суртлын хувьд ч алдаа гаргасан. X-ийн хэрэглэгчдийн дуу хоолойг дуурайх гэж оролдохдоо Грок платформын хамгийн өдөөн хатгасан зөн совингийн толь болсон. Энэ нь энэ түүхийн хамгийн илэрхий хэсэг байж магадгүй. Маскийн хиймэл оюун ухааны эрин үед “үнэн” нь ихэвчлэн баримтаар бус, харин вируст тархалтаар хэмжигддэг. Хурц байдал нь алдаа биш, харин онцлог юм.

Гэхдээ энэ долоо хоногийн алдаа нь энэ хурц байдал алгоритмыг жолоодох үед юу болохыг харуулж байна. Үнэн эрэлхийлэгч хиймэл оюун ухаан нь уур амьсгалыг тусгагч болсон.

Энэ 16 цагийн туршид энэ нь хамгийн хүний шинж чанартай зүйл байсан юм.