Энэхүү шинэ технологи нь түүхэн баримтыг бодитой мэт хуурамчаар гаргаж, олон нийтийг төөрөгдүүлэх ноцтой эрсдэл дагуулж болзошгүйг мэргэжилтнүүд анхаарууллаа.
Хиймэл оюун ухааны тусламжтайгаар текстээс видео үүсгэх технологи хөгжлийн шинэ шатанд хүрсэн бөгөөд сүүлийн үед фото бодит чанартай хуурамч дүрслэлийг хялбархан бүтээх боломжтой болжээ. Тухайлбал, “Black Forest Labs” компаниас долдугаар сарын сүүлээр гаргасан “Flux 3” хэрэгслийн талаар “Andreessen Horowitz” компанийн түнш Жастин Мур тус хэрэгсэл нь түүхэн дүрс бичлэг бүтээхдээ онцгой сайн болохыг онцлон сайрхсан байна. Тэрбээр 1990-ээд оны бага сургуулийн сурагчид компьютерыг хэрхэн ашиглах талаар таамаглаж буй 20 секундын бичлэгийг олон нийтийн сүлжээнд хуваалцжээ.
Хэдийгээр уг бичлэг нь анх харахад гэм хоргүй мэт санагдаж болох ч, олон нийт болон шинжээчдийн зүгээс үүнд шүүмжлэлтэй хандаж байна. Интернэтэд хуурамч мэдээлэл болон бодит бус түүхэн баримтууд хялбархан тархаж байгаа нь Жорж Оруэллийн “1984” романд гардаг эрх баригчдын өнгөрсөн түүхийг дур зоргоороо өөрчилдөг үйл явцтай ижил төстэй аюул дагуулж болзошгүйг тэд анхааруулжээ. Шүүмжлэгчид уг технологи нь олон нийтийг төөрөгдүүлж, бодит байдлыг гуйвуулах ноцтой эрсдэлтэйг онцолсон байна.
Гэсэн хэдий ч технологийн хөгжүүлэгчид болон хөрөнгө оруулагчид үүнийг бүтээлч, хөгжилтэй загвар хэмээн хүлээн авч, цаашид илүү өргөн хүрээнд ашиглах боломжтойг онцолж байгаа юм. Мэргэжилтнүүд эрх баригчид болон янз бүрийн дэглэмүүд хиймэл оюун ухааныг суртал ухуулга түгээх, нөлөөллөө бэхжүүлэх зорилгоор ашиглаж эхэлснийг өмнө нь олон удаа сануулж байсан билээ. Тухайлбал, 2024 онд “OpenAI” компани Орос, Хятад, Израил, Иран зэрэг орноос гаралтай хиймэл оюун ухаанд суурилсан хуурамч мэдээллийн кампанит ажлуудыг илрүүлж арга хэмжээ авснаа мэдэгдэж байв.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Text-to-video AI generating tools have come a long way. Just three years ago, we were all unsettled by grisly clips of actor Will Smith’s face morphing while “eating” a moving pile of spaghetti.
Thanks to major leaps in the tech, these tools can now generate photorealistic fake footage at the drop of a hat — which could have devastating implications for efforts to keep disinformation at bay.
However, those who are heavily invested in AI are welcoming the rapid unraveling of truth as AI slop continues to flood the internet. Case in point: Andreessen Horowitz partner Justine Moore, who recently boasted that the venture capital firm-backed Black Forest Labs’ Flux 3 AI tool — which launched in late July — was “exceptional at generating historical footage.”
Moore shared a 20-second clip of “elementary school students in the ’90s predicting how we’ll use computers.” On the surface, it seems like a feel-good narrative of young kids accurately forecasting major advances in tech.
“They’ll probably do our homework,” one of the AI-generated children said in the clip.
“Maybe they’ll make movies for us,” another fictional child added, perfectly echoing Holloywood executives’ desires to turn the entertainment industry into a slop factory.
While the clip isn’t exactly a major departure from actual predictions dating back to the 1980s, as Gizmodo points out, Moore’s excitement about the AI slop highlights a dangerous disregard for the proliferation of believable yet fabricated historical records — like a more high tech version of the way the authorities in George Orwell’s novel “1984” constantly redacted newspapers and other records of the past in whatever way is convenient to the ruling party.
Once you scroll past the congratulatory comments other venture capital-tied accounts made in response to Moore’s video, plenty of netizens voiced their concerns.
“This is evil,” one account wrote. “AI is going to distort history and reality beyond comprehension.”
“Stuff of nightmares, this is a huge risk of misinformation and narrative control,” another added.
“Clappin your hands like a seal while a technology that will obviously used to gaslight the public is rolled out,” wrote another.
Experts have long warned that AI is filling the internet with easy-to-generate propaganda. Authoritarian regimes are already using the tech to spread disinformation and consolidate power. In 2024, OpenAI admitted that it had to intervene after discovering disinformation campaigns using its tech and originating from Russia, China, Israel and Iran.
While a young child predicting that robots will one day do their homework might seem pretty innocuous, the same kind of tools can be used for far more nefarious purposes.
Despite the glaring risks of facilitating the creation of dangerous propaganda, Moore is doubling down.
“This is an insanely fun and creative model that can do a really impressive range of things,” she said in a followup tweet.
Alongside the announcement of the release of Flux 3, she shared a 1990s-style clip of two CNN anchors informing the public of the news.
“Today researchers demonstrated an AI that can generate convincing video from text,” one of the anchors said in the video.
“Who’s gonna believe that?” his co-anchor replied.
More on AI video: Boomers on Facebook Are Leaving Comments That Make It Clear That They Have No Idea That AI-Generated Thirst Traps Aren’t Real
The post Andreessen Horowitz Partner Boasts That the Company’s New Tech Can Fabricate Fake History Like in “1984” appeared first on Futurism.
