AI үйлчилгээний сүлжээнд нууц мэдээлэл алдагдах эрсдэлийг судалжээ

Published:

Энэхүү мэдээ, нийтлэлийг хиймэл оюун боловсруулав.

Судлаачид олон AI үйлчилгээг дамжсан хүсэлтүүдэд хоёр сая илрүүлэгч тэмдэг байршуулж, нууц мэдээлэл хэрхэн алдагдаж болохыг туршжээ.

Туршилтаар AI үйлчилгээний өргөн сүлжээнд өндөр мэдрэг мэдээлэл алдагдах эрсдэл байгааг илрүүлсэн байна. Судлаачид хэрэглэгчийн итгэмжилсэн мэдээлэл сүлжээний аль хэсгээр дамжиж, алдагдсан тохиолдолд хэрхэн ашиглагдаж болохыг шалгажээ.

OpenRouter, Vercel зэрэг AI чиглүүлэгч буюу гарцын үйлчилгээ нь хэрэглэгчдийн хүсэлтийг хүлээн авч, хамгийн хямд эсвэл тухайн даалгаварт тохирох дүгнэлт гаргах хөдөлгүүр рүү дамжуулдаг. Ингэснээр хөгжүүлэгчид Anthropic, OpenAI зэрэг томоохон нийлүүлэгчидтэй шууд ажиллахын оронд тохирох загварыг сонгон холбох зуучлагчийг ашиглаж болно.

Судлаач Х.Д. Мур AWS-ийн хоосон бүртгэлтэй холбоотой ажиллах хандалтын түлхүүр, SSH нууц үг, өвөрмөц URL, DNS нэр болон хувийн Git репозиторын мэдээллийг цуглуулжээ. Өмнө нь огт ашиглагдаагүй эдгээр мэдээллийг тус бүр нэг үйлчилгээ үзүүлэгч рүү илгээсэн ганц хүсэлтэд оруулсан бөгөөд, алдагдсан тохиолдолд сүлжээний аль холбоос хариуцсаныг тогтоох “канар” тэмдэг болгон ашигласан байна.

Дэлгэрэнгүйг эх сурвалжаас харах

↓Эх сурвалжийг нээх ↓

Researchers planted 2 million digital tripwires in requests sent through a sprawling network of AI services to find out what happened to sensitive information entrusted to them. What they discovered was an ecosystem that leaked highly sensitive data like a sieve.

The exposure was found through an ingenious experiment designed to test if sensitive information can leak through the vast chain of widely used AI services and how that information is exploited when it does. Many of today’s AI apps use services such as OpenRouter or Vercel that act as brokers. These “AI routers,” sometimes also known as “AI gateways,” receive large numbers of prompts sent from AI app end users and route them to an available inference engine based on criteria such as the one charging the lowest price or being best suited for the given task. Instead of using Anthropic, OpenAI, or another big provider, the developer hires an AI router to find the most suitable model.

Security breaches, prompt theft, and privacy violations

To test for potential leakage, researcher HD Moore assembled a collection of AWS access keys, functioning credentials tied to empty AWS accounts, passwords for services such as SSH, and unique URLs, DNS names, and private git repository references. None of the secrets had ever been used before, and he controlled the infrastructure that received any requests using the credentials. He then seeded each secret into exactly one prompt sent to a single provider. In the event any of the secrets were leaked, these “canaries”—so called because they resemble the role of that bird when taken into coal mines—would allow Moore to identify each link in the chain that was responsible.

Read full article

Comments

Та юу гэж бодож байна?

Сэтгэгдлээ оруулна уу!
Please enter your name here

MFC.mn сайтад сэтгэгдэл оруулахад анхаарах зүйлс

Холбоотой

spot_img

Шинэ

spot_img