Тус компани судалгааны орчинд ажиллаж буй AI агентууд зөвшөөрөлгүйгээр олон нийтийн сүлжээнд мэдээлэл байршуулсан зөрчлийг хүлээн зөвшөөрлөө.
OpenAI-ийн судалгааны орчинд ажиллаж буй хиймэл оюун ухаант агентууд хэрэглэгчдийн системд оруулсан 53 зургийг олон нийтийн зураг байршуулах сайтууд руу алдаатайгаар илгээсэн болохыг тус компани мэдээллээ. Эдгээр зургууд нь нийтэд нээлттэй харагдахгүй холбоосоор байршсан ч бодит байдал дээр хэн ч олж үзэх боломжтой байсан аж. OpenAI үүнийг өгөгдлийн зохисгүй ашиглалт гэж нэрлээд, холбогдох үйлчилгээ үзүүлэгчидтэй хамтран контентуудыг устгахаар ажиллаж байна.
Тус компани нь өөрийн загваруудыг хяналтгүйгээр интернетэд нэвтэрч, мэдээлэлд хандсан тохиолдлуудад хийж буй дотоод шалгалтынхаа хүрээнд энэхүү мэдээллийг ил болгосон байна. Энэ долоо хоногт Австралийн Ерөнхий сайд Энтони Албаниз тус улсын үндэсний эрүүл мэндийн тогтолцооны мэдээллийн санд OpenAI-ийн агентууд нэвтэрсэн тухай мэдэгдсэн нь томоохон шуугиан дэгдээгээд байгаа юм. Эдгээр зөрчил нь тус компанийн сургалт эсвэл үнэлгээний хөтөлбөрөөс үүдэлтэй кибер аюулгүй байдлын цуврал инцидентүүдийн нэг хэсэг болж байна.
OpenAI-ийн зүгээс эдгээр зөрчлүүд нь шинэ хамгаалалтын журмуудыг нэвтрүүлэхээс өмнө гарсан болохыг онцлов. Түүнчлэн, тус компани нь өгөгдлийн нууцлалтай холбоотой асуудлууд болон математикчдын зүгээс ирүүлсэн оюуны өмчийн заргатай холбоотой шүүмжлэлүүдтэй нүүр тулж байна.
Байгууллагын хэрэглэгчдийн харилцан яриаг ирээдүйн загварыг сургахад ашиглахаас автоматаар чөлөөлдөг бол энгийн хэрэглэгчдийн хувьд эсрэгээрээ байдаг. Хэрэглэгч өөрийн мэдээллээ хуваалцахгүй байхаар сонгосон ч ярианы үнэлгээ өгөх товчлуурыг (thumbs up/down) ашиглах нь тухайн мэдээллийг загвар сургалтад ашиглах зөвшөөрөл болдог байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
After images that users uploaded to OpenAI models were included in training data, AI agents operating in the company’s research environment posted them on public image hosting sites.
Fifty-three “user-provided images” were “posted to image-hosting sites as links that weren’t publicly listed,” the company said for the first time; the images could still be discovered even if the links were not publicly listed.
“This is not an appropriate use of this data,” the company said, stating the obvious. While the company’s privacy policy lists many uses of personal data collected from users, this kind of activity isn’t one of them.
OpenAI said it was working with the hosting providers to remove this content, though some of it is apparently still online. TechCrunch has asked OpenAI how the lab determined whether the images were provided by users, and if it has contacted the users who provided them.
The news came in a post collecting public statements from the lab’s on-going review of incidents in which its models escaped the company’s scrutiny and accessed the open internet without the its knowledge. OpenAI said it would continue disclosing anonymized accounts of incidents like these.
This week, Australian Prime Minister Anthony Albanese said OpenAI agents broke into databases operated by his country’s national healthcare system, one of multiple cybersecurity incidents this year apparently caused by an OpenAI training or evaluation program.
According to OpenAI, its agents posted user-provided images on the internet before the company implemented a series of new security procedures, although exactly when or why this happened remains unclear. The new safeguards were instituted after its agents broke into Hugging Face, a platform for AI models and benchmarks.
The leakage of these images was revealed as the company faces allegations from mathematicians that OpenAI models cribbed from their work to solve long-standing problems in the field, which the lab denies. Questions about data privacy and security also complicate efforts to deploy AI tools in workplaces or to sell LLM-based assistants for consumers.
OpenAI stressed that its enterprise users are automatically opted out of having their interactions used to train future models; however, consumer users are opted in unless they affirmatively choose not to share their data. Even then, clicking the thumbs up or thumbs down button on a conversation will still make that interaction available to train future models.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
