Сошиал медиа ашиглагчид хиймэл оюун ухааны технологи ашиглан цагдаагийн үйл ажиллагааны бодит дүрс бичлэгийг эвлүүлэн, иргэдийг бэлгийн дарамтад өртөж буй мэтээр хуурамч дүрс (deepfake) бүтээж байна.
“Copyleaks” компанийн илрүүлснээр, TikTok платформ дээрх эдгээр бичлэгүүд нь бодит баривчилгааны дүрс бичлэгүүд дээр суурилжээ. Уг бичлэгүүдийг ихэвчлэн “D.U.I.” зэрэг реалити шоуны дүрсээс авч, хиймэл оюун ухааны тусламжтайгаар цагдаагийн ажилтнууд баривчлагдсан иргэдийг үнсэж, бэлгийн дарамт үзүүлж буй мэтээр эвлүүлсэн байна. Ийм төрлийн хуурамч дүрсүүдийг баривчилгааны урт бичлэгийн эхэнд байршуулж, хэрэглэгчдийн анхаарлыг татах замаар хандалт цуглуулах зорилгоор ашиглаж байгаа аж.
“Copyleaks”-ийн үүсгэн байгуулагч бөгөөд Гүйцэтгэх захирал Алон Яминий мэдэгдсэнээр, энэ нь хиймэл оюун ухааны хэрэгслийг сошиал медиад хандалт авах зорилгоор бодит контентыг гуйвуулахад ашиглаж буй ноцтой жишээ юм. Тэрээр эдгээр бичлэгт дүрслэгдсэн бодит хүмүүс, тэр дундаа цагдаа болон иргэдийн хувьд энэ нь маш их эрсдэлтэй бөгөөд хэзээ ч болоогүй үйл явдлыг болсон мэтээр харуулж буйг онцолсон байна.
Зарим бичлэгт дүрслэгдсэн хүмүүс инээмсэглэж буй нь тэднийг энэхүү үйлдэлд оролцогч мэтээр харагдуулахыг зорьжээ. Хэдийгээр зарим контент дээр хиймэл оюун ухаан ашигласныг тэмдэглэж, “зугаа цэнгэлийн зориулалттай” гэсэн санамж байршуулсан ч иргэдийн зөвшөөрөлгүйгээр бэлгийн шинж чанартай хуурамч дүрс бүтээх нь хор хөнөөлтэй үйлдэл юм.
TikTok компани уг асуудлаар хандсаны дараа тодорхойлсон контентуудыг устгаж, хиймэл оюун ухаанаар бүтээсэн контентыг тодорхой тэмдэглэх тухай платформын удирдамжийг баримтлахыг сануулжээ.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Engagement farmers on TikTok are using AI to manipulate real arrest footage to show police officers kissing and groping arrestees being taken into custody.
The deepfakes, which were discovered by Copyleaks, are grotesque. The AI-manipulated videos are based on actual footage of arrests —which appear to have originally been filmed for reality TV shows like TLC’s “D.U.I.” — but have been altered to depict law enforcement officers kissing and sexually touching real women, as well as a few real men, who were pulled over. The arrestees are often shown wearing handcuffs and being held near, in, or against police cruisers as the fake sexual activity occurs.
These abusive deepfakes are then spliced in front of longer videos of the arrest, a tactic which suggests that the deepfakes were made to get scrolling users hooked so they watch the arrest videos through to the end.
“This is a disturbing example of how AI tools are being used to create deepfake versions of real content to drive attention and engagement on social media,” Copyleaks cofounder and CEO Alon Yamin said in a statement. “It’s important to remember that these videos feature real people — both police officers and citizens — who are being depicted doing things that never happened.”
“That’s concerning,” added Yamin, “for everyone featured and involved.”
In some of the videos, the people being kissed and groped are pictured smiling, implying that they’re willing participants in the sexual advances of police officers who are actively arresting them.
Some of the manipulated videos note the use of AI-generated content, and are additionally outfitted with a disclaimerclaiming that the clips are for “entertainment use only with no harmful implication.” That disclaimer, though, rings extraordinarily hollow: sexualized deepfakes, created to manipulate media of real people without their consent, are implicitly harmful.
After we reached out, TikTok removed examples of the content that we specifically flagged, and pointed us to platform guidelines regarding clear labeling of realistic AI content.
More on deepfakes: The Proliferation of Deepfakes Is Profoundly Changing the Way Teenagers Use the Internet
The post Grotesque Engagement Farmers Are Using AI to Manipulate Real Arrest Footage So That Cops Grope Women appeared first on Futurism.
