Google-ийн AI Overview үйлчилгээ интернэт дэх хошигнолыг бодит мэдээлэл хэмээн андуурч, хяналтын камеруудад үнэт металл агуулагддаг гэх утга бүхий хайртын үр дүнг хэрэглэгчдэд хүргэжээ.
Нууцлагдмал байдлыг эрхэмлэдэг зарим бүлгүүд болон онлайн орчинд “Flock” брэндийн хяналтын камерууд алт, зэс зэрэг үнэт материалуудыг агуулдаг гэх хошигнол өргөн тархсан байдаг. Харин Google-ийн хиймэл оюун ухааны систем үүнийг ялгаж салган ойлгох чадваргүйгээс болж уг хошигнолыг бодит мэдээлэл хэмээн хүлээн авч, камеруудад таван грамм хүртэл алт, 23 хүртэлх фунт зэс агуулагддаг хэмээн зааж байсныг “Futurism” хэвлэл илрүүлжээ. Уг камерын нийт жин ердөө гурван фунт орчим байдаг аж.
Өдгөө энэ алдааг засварласан бөгөөд хэрэглэгч камерын дахь металлын хэмжээг тодруулахад хиймэл оюун ухаан уг мэдээллийг худал болохыг тайлбарлаж байна. Гэвч Google-ийн хиймэл оюун ухааны хайлт интернет дэх худал мэдээлэл болон хошигнолыг бодит үнэн мэтээр андуурах тохиолдол өмнө нь ч гарч байсан юм. Тухайлбал, Реддит дэх хошигнолыг үндэслэн бяслаг хайлуулахгүйн тулд пиццанд цавуу түрхэхийг зөвлөж байсан удаатай.
Үүнээс гадна тус технологи нь илүү чухал ач холбогдолтой салбаруудад ч алдаа гаргасаар байна. Тухайлбал, сонгуулийн мэдээлэл хайсан хэрэглэгчдэд муж улсынхаа албан ёсны мэдээллийг хүргэж чадахгүй байх тохиолдол олон гарч байгааг судалгаагаар тогтоожээ. Тухайлбал, “States United Democracy Center”-ийн тайланд дурдсанаар хайлтын системийн хиймэл оюун ухаан тохиолдлын тал хувьд нь албан ёсны мэдээлэлд чиглүүлж чадаагүй байна.
Хэдийгээр сонгуультай холбоотой хиймэл оюун ухааны хариултуудын нарийвчлал 2024 оны судалгааны үр дүнтэй харьцуулахад сайжирсан ч технологийн компаниуд мэдээллийн үнэн зөв байдлыг хангах тал дээр анхаарлаа үргэлжлүүлэн сайжруулах шаардлагатай хэвээр байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
There are a lot of reasons to want Flock cameras removed from your neighborhood. That said, harnessing the gold and copper from them is probably not one of them. Unfortunately, Google’s AI Overview may have given people the idea that they can run smash-and-grab operations to cash in on the metals inside the invasive eyes of the surveillance state.
It’s become a running joke online and in privacy-focused communities that Flock cameras contain valuable material like gold, copper, and zinc, a bit meant to (jokingly!) encourage people to smash open the cameras and take what’s inside. Google’s AI Overview doesn’t have much of a sense of humor and, according to Futurism, took it literally. The publication found that, for a time, the results insisted that Flock cameras contained as much as 5 grams of gold and up to 23 pounds of copper—even though the cameras only weigh about three pounds.
The results do appear to be fixed now. When asked about the amount of gold or copper in a Flock camera, Google now spits out some version of the following: “Viral internet rumors and AI hallucinations claiming a single unit holds 2 to 23 pounds of copper are completely false, as the entire camera housing weighs only about 3 pounds.” Critically, Google’s source for this information is Futurism’s report on Google’s AI stating that Flock cameras are full of gold and copper. We’re all trying to find the guy who did this.
Gizmodo reached out to Google for comment on this but did not receive a response at the time of publication.
It’s not hard to find examples of Google’s AI Overviews falling for obvious nonsense. The feature has been making these kinds of mistakes since the company began cramming AI into nearly every corner of the Google experience. Remember when it advised people to put glue on pizza to keep the cheese from sliding off after mistaking a Reddit joke for legitimate cooking advice?
Unfortunately, there are much higher-stakes situations that AI Overview continues to struggle with getting right. A report from the States United Democracy Center shared by CyberScoop on Wednesday reviewed the accuracy of Google’s results when people search for election information. It found that the search engine’s AI failed to direct people to their state’s official election information in about half of all cases. It also found that up until this year, Google was providing misinformation related to elections in nearly 7% of all responses.
To be fair, AI responses related to elections have significantly improved since 2024, when researchers found that Google’s Gemini AI got election-related information wrong about 43% of the time.
It’s an election year. Make sure you’re getting good information about who is on the ballot, how to register to vote, and when your local elections will take place. As for the Flock cameras, well, you never know what will happen if you crack one open and see what’s in there.
