Европын холбооны хиймэл оюун ухааны тухай хуулийн ил тод байдлын шаардлагыг хангахын тулд OpenAI компани өөрийн загваруудад үл үзэгдэх усан тэмдэг нэмэхээр боллоо
Даваа гарагт OpenAI-аас мэдээлснээр, Европын холбооны нутаг дэвсгэрт ашиглагдаж буй ChatGPT болон Codex загваруудад үл үзэгдэх усан тэмдэг нэмэх ажлыг ойрын долоо хоногт эхлүүлэхээр төлөвлөжээ. Энэхүү шийдвэр нь наймдугаар сарын 2-ноос хүчин төгөлдөр болсон Европын холбооны хиймэл оюун ухааны тухай хуулийн ил тод байдлын шаардлагыг дагаж мөрдөх зорилготой юм. Одоогоор дэлхий даяарх хөгжүүлэгчид OpenAI-ийн API ашиглан хүссэн загвартаа уг тэмдэглэгээг идэвхжүүлэх боломжтой боловч анхдагч тохиргоогоор энэ нь унтраалттай байна.
“textGrain” хэмээн нэрлэгдсэн уг арга нь үгийн сонголтыг нарийн өөрчлөх замаар хүний нүдэнд үл үзэгдэх, харин илрүүлэгч системд танигдах хэв маягийг бий болгодог. Энэхүү тэмдэглэгээ нь текстийг хуулж буулгасан ч агуулгатайгаа хамт зөөгддөг онцлогтой бөгөөд загварын гүйцэтгэлд мэдэгдэхүйц өөрчлөлт орохгүй гэж компани мэдэгдэв. Гэсэн хэдий ч засвар хийх, синоним үгээр солих эсвэл богино хэмжээний текст, математикийн хариулт, орчуулгын хувьд илрүүлэх түвшин буурах магадлалтай байна.
OpenAI уг тэмдэглэгээг хэрэглэгчийн хувийн мэдээлэлтэй холбоогүй гэдгийг тодотгож, илрүүлэгч хэрэгслийг одоогоор зөвхөн эрх бүхий судлаачид болон мэргэжлийн байгууллагуудад олгохоор шийдвэрлэжээ. Түүнчлэн тэмдэглэгээ байхгүй байх нь тухайн текстийг заавал хүн бичсэн гэсэн үг биш гэдгийг компани анхааруулсан байна. Энэхүү алхам нь Anthropic компани өөрийн Claude загварт усан тэмдэг нэвтрүүлснээс хоёр сарын дараа хийгдэж байгаа бөгөөд Google, Meta, Microsoft зэрэг компаниуд ч хиймэл оюун ухааны контентын ил тод байдлыг хангах Европын холбооны удирдамжийг дагаж мөрдөхөө илэрхийлээд байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
OpenAI will start adding an invisible watermark to text generated by ChatGPT and Codex in the European Union to comply with the EU AI Act, the company said Monday in ablog post.
The EU AI Act’s transparency rules, which took effect on August 2, require AI companies to mark AI-generated content in a way other systems can identify.
OpenAI said the watermark will roll out over the coming weeks to eligible ChatGPT and Codex users on all plans, but only in the EU. Developers using OpenAI’s API anywhere in the world can turn it on for select models starting today; it’s off by default. OpenAI said it is not making text watermarking a global default at launch.
The watermark is not an actual symbol, but works by subtly shaping the model’s word choices, leaving a pattern readers can’t see, but a detector can pick up. Because it lives in the words themselves, it travels with the text when it’s copied and pasted. OpenAI said the watermark doesn’t identify the user, and that it saw no meaningful change in its models’ performance with it switched on.
OpenAI also published a technical report for its method, called textGrain, alongside the announcement. Co-written with researchers from the University of Pennsylvania and Yale, it walks through an example of using a secret key to sort next-word predictions to finish the sentence. Add hundreds of these nudges together, and the detector can spot AI-generated content using only the text and the key.
Can the watermark be removed by editing? OpenAI’s tests suggest yes. In one test, replacing 10% of words with synonyms dropped detection from about 92% to 66%. The company also said short passages, math answers, and translated text are harder to detect.
“These limitations contribute to our decision to provide initial detector access only to approved researchers and expert organizations, who can help us evaluate reliability and responsible uses,” said the company.
OpenAI also cautioned that a missing watermark “does not prove human authorship.” The text could be too short or too heavily edited, or it could come from another company’s AI.
“[Watermarks] can indicate that an OpenAI system generated or processed part of a passage, but not how much human judgment, editing, or creativity went into it,” the company said.
The announcement comes two months afterAnthropic said it would watermarktext generated by Claude, a move it’s applying worldwide. That decisiondrew backlash from some Claude users, who argued they had supplied “the instructions, context, decisions” while Claude was just “the tool.”
OpenAI had built a text watermark before but held off on releasing it, partly over concerns that users would switch to rivals that didn’t watermark,The Wall Street Journal reportedin 2024.
Anthropic, Google, Meta, Microsoft and OpenAI are among the companies that have committed to following theEU’s code of practiceon AI-generated content.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
