Хиймэл оюун ухааны загваруудыг хязгаарлалтгүйгээр орон нутгийн системд ажиллуулах боломжтой болсон нь хүүхдийн эсрэг гэмт хэргийн шинжтэй агуулга олшроход хүргэжээ.
Нээлттэй эх бүхий хиймэл оюун ухааны (AI) загваруудын нэр хүнд өсөхийн хэрээр хэрэглэгчид OpenAI, Anthropic зэрэг компанийн тогтоосон аюулгүй байдлын хяналтыг алгасах боломжтой болсон. Энэхүү технологийн нээлттэй байдал нь хүүхдийн хүчирхийллийн шинжтэй дүрс бичлэг, зураг (CSAM) үүсгэхэд ашиглагдаж байгаа нь ноцтой асуудал болоод байна. Эдгээр загварыг интернетэд холбогдохгүйгээр хувийн системдээ суулган ажиллуулах боломжтой тул хууль сахиулах байгууллагууд гэмт этгээдүүдийг илрүүлэхэд хүндрэлтэй байна.
Хүүхдийн аюулгүй байдлын шинжээч Ребекка Портнофын мэдээлснээр, хоёр жилийн өмнө 10 хүрэхгүй байсан, CSAM үүсгэхэд ашиглагдаж буй нээлттэй эх бүхий AI загварын тоо өдгөө 500 давжээ. АНУ-ын Алга болсон болон мөлжлөгт өртсөн хүүхдүүдийн үндэсний төвд бүртгэгдсэн хиймэл оюун ухаанаар үүсгэсэн CSAM-ийн тохиолдол өнгөрсөн жил 1.5 саяас давсан нь 2024 оны 67,000 гэсэн үзүүлэлтээс эрс нэмэгдсэн байна. Хар вэб (dark web) дээр энэ төрлийн агуулга хуваалцдаг олон зуун мянган гишүүнтэй бүлгэмүүд идэвхтэй үйл ажиллагаа явуулж байгааг Bloomberg онцолжээ.
Хиймэл оюун ухаан хөгжүүлэгч томоохон компаниуд ч энэ асуудлыг шийдвэрлэхэд бэрхшээлтэй тулгарч байна. Тухайлбал, Илон Маскийн үүсгэн байгуулсан компанийн Grok чатботыг ашиглан дагавар охиныхоо 7,000 орчим садар самуун зургийг үүсгэсэн хэрэг гарч, тус компанид холбогдох шүүхийн нэхэмжлэл гаргасан байна. Мөн X платформ дээр хүүхдийн садар самуун дүрсийг агуулсан зураг ихээр тархаж байгааг шинжээчид анхааруулж байна. Силикон хөндийн “хурдан хөгжүүлж, эрсдэл дагуул” гэсэн хандлага нь хүүхдийн аюулгүй байдлын эрсдэлийг улам бүр нэмэгдүүлж болзошгүй байгааг салбарын мэргэжилтнүүд шүүмжилж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Open-weight AI models have skyrocketed in popularity. They allow users to host their own AI systems locally and evade safety guardrails enforced by commercial companies like OpenAI or Anthropic.
Unfortunately, those qualities also make open-weight models popular among people who use AI to generate child sex abuse material (CSAM). As Bloomberg lays out in a shocking new feature, AI models that are partially or fully open-source have led to a major surge in disturbing CSAM material online.
Tracking down perpetrators can be difficult since many of these AI models can be trained on existing CSAM and used to generate many new derivatives without ever connecting to the internet, where they could be identified by experts and reported to law enforcement.
The alarming trend has ballooned into entire communities on the dark web that can attract hundreds of thousands of members, according to Bloomberg.
The rapid rise of open source models, particularly from China, has sparked a major debate, with CEOs of leading AI firms arguing they should be reined in, citing concerns over national security.
However, their use to generate CSAM, a process that’s trivial once safety guardrails are bypassed by “jailbreaking” the models, is growing into a far more immediate and glaring problem.
“There is almost no way to have oversight once you have downloaded a model locally and you’re running it on your private system,” AI child safety expert Rebecca Portnoff told Bloomberg. “That gives offenders a perceived sense of safety.”
According to Portnoff, there are more than 500 open source AI models being used for CSAM, a massive increase over less than a dozen two years ago. Meanwhile, the number of instances of AI-generated CSAM reported to the National Center for Missing and Exploited Children spiked over the 1.5 million mark last year, up from just 67,000 in 2024.
And while open source models continue to be exploited, even AI companies are struggling to meaningfully address the problem with their closed source alternatives. Despite XAI-turned-SpaceXAI-turned-SpaceXSI founder Elon Musk promising for years to put an end to the trend, CSAM generated with the company’s AI models has continued to run rampant. A proposed class action lawsuit against the company accused a man of using Musk’s Grok chatbot to generate some 7,000 sexually explicit images of his stepdaughter.
Experts have found that Musk’s X social media platform continues to be flooded with sexualized images of children.
And as the AI race continues to heat up, child safety advocates are growing concerned that the move-fast-and-break-things approach Silicon Valley is applying could end up making matters even worse.
More on CSAM: Meta Caught Running Ads for Child Abuse
The post A Core Demographic of People Who Love AI: Pedophiles appeared first on Futurism.
