Meta компанийн танилцуулсан хиймэл оюун ухаанаар бүтээсэн зургийг илрүүлэх хэрэгсэл нь зургийг тайрах үед таних чадвар нь эрс буурч байгаа нь тогтоогджээ.
Meta компани саяхан “Muse Image” нэртэй зураг үүсгэгч загвараа танилцуулсан бөгөөд үүний зэрэгцээ Content Seal хэмээх үл үзэгдэх тэмдэглэгээний системийг нэвтрүүлснээ зарласан юм. Тус компани энэхүү тэмдэглэгээ нь зургийг тайрах, хэмжээг нь өөрчлөх, дэлгэцийн зураг авах зэрэг үйлдлийн дараа ч хадгалагдана гэж мэдэгдэж байв. Гэвч Reuters агентлагийн туршилтаар, анхны зургийг бүтнээр нь танихдаа 100 хувийн амжилттай байсан уг хэрэгсэл, зургийг тайрсны дараа ердөө 55 хувийг нь л хиймэл оюун ухаанаар бүтээгдсэнийг олж тогтоожээ.
Хиймэл оюун ухаанаар бүтээсэн “дипфейк” (deepfake) дүрслэлийн хэмжээ 2023-2025 оны хооронд 900 хувиар өссөн нь уг технологийг таних асуудлыг улам бүр хүндрүүлж байна. Одоогийн байдлаар зах зээлд байгаа илрүүлэгч хэрэгслүүд алдаа гаргах нь элбэг бөгөөд энгийн хэрэглэгчид хиймэл оюун ухааны бүтээлийг ялгахад бэрхшээлтэй байгаа юм. Meta компанийн хувьд энэхүү технологийн хоцрогдлыг нөхөх зорилгоор олон тэрбум долларын хөрөнгө оруулалт хийж, хиймэл оюун ухааны салбарт тэргүүлэгч болохыг зорьж байна.
Шинэ загваруудын нээлт нь маргаан дагуулаад байгаа бөгөөд үүнд зөвхөн илрүүлэгч хэрэгслийн алдаа төдийгүй хэрэглэгчдийн хувийн мэдээллийн асуудал ч хамааралтай байна. Тодруулбал, Muse Image загвар нь олон нийтийн нээлттэй профайл дахь зургуудыг хэрэглэгчийн зөвшөөрөлгүйгээр ашиглаж байсан нь илэрч, улмаар тухайн функцийг устгахад хүргэжээ. Meta одоо “Muse Video” нэртэй дүрс бичлэг үүсгэгч шинэ загвараа гаргахаар төлөвлөж байгаа бөгөөд өмнөх алдаа дутагдлаа хэрхэн засах нь анхаарал татаж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
Эх сурвалжийг нээх ↓
Meta’s new AI detection tool isn’t working entirely as advertised, according to a new report.
Meta debuted its first image generation model, Muse Image, earlier this week. As part of the debut, the tech giant also announced that all images generated by the model would include an invisible watermarking system called Content Seal. This signal would remain intact even when the AI-generated image gets “cropped, compressed, resized, or screenshotted” by users, the company claimed. To help with catching the Content Seal signal, Meta also announced that it was previewing an AI detection tool to check whether Muse Image generated an image.
But, in a report published on Friday, Reuters reporters found that the AI detection tool failed to identify more than half the images it generated once they had been cropped. In the first test, Reuters found that the tool correctly identified all 40 images generated by Muse Image as AI-generated, but once those images were cropped to half or one-third of their original size, the tool was only able to identify 55% as AI-generated.
As generative AI tools get better at producing uncanny deepfakes, detection becomes a trickier problem to solve. According to cybersecurity firm DeepStrike, the volume of AI-generated deepfakes online has experienced a roughly 900% annual growth from 2023 to 2025. But detection capabilities haven’t advanced completely in parallel to this boom in popularity. Commercial AI detection tools, themselves driven by AI, are still plagued with mistakes, while the average person’s ability to identify AI-generated content is no better than a coin toss, according to previous studies.
Though not a true immediate success, that’s the gap Meta is aiming to address with the new Content Seal and its detection tool.
Muse Image and its accompanying products were meant to be a major step forward for Meta, which has arguably been trailing its competitors in the AI space. Last year, Meta CEO Mark Zuckerberg decided there is no time like the present to try to catch up and announced a major AI turnaround effort. The catch-up plan included committing multibillion-dollar investments into research and development and poaching top talent from rivals all across the industry, all in pursuit of building better AI products and the lofty goal of creatingartificial superintelligence.
An additional couple billion dedicated to AI and a few more restructurings later, Meta unveiled the first major fruit of that labor in April with Muse Spark, a proprietary model that it said it plans to open-source in the future and was met with a mixed reception. Another major one was this week’s Muse Image debut.
But the debut of the image generator and its accompanying tools has been mired in controversy, and not just because of the Reuters report. Instagram users were alarmed when they found out that the AI model could use photos from any public profile without explicitly asking the owner of said profile for their consent. That feature has now been removed.
The company is now eyeing its next big generative AI debut: a video generator called Muse Video. Here’s to hoping the company can bridge any gaps in detection tools and adequately address users’ privacy concerns before that model drops.
