Конгрессын гишүүдийн туслахууд ChatGPT, Claude, Grok зэрэг хиймэл оюун ухааны хэрэгслүүдийг албан бичиг, хуулийн төсөл боловсруулахад өргөнөөр ашиглах болсон нь хяналтын тогтолцооны сул талыг илчилж байна.
Хиймэл оюун ухааны чатботууд өдөр тутмын ажил хэрэгт түгээмэл ашиглагдах болсон нь АНУ-ын Конгресст ч нөлөөлжээ. Тухайлбал, төлөөлөгч Анна Паулина Лунагийн албаныхан Үндэсний батлан хамгаалахын зөвшөөрлийн тухай хуулийн төсөлд Claude хиймэл оюун ухааны үүсгэсэн алдаатай текстийг анзааралгүйгээр хуулбарлан оруулсан тохиолдол гарсан байна. Конгрессын гишүүд өөрсдийн туслахуудыг мэдээлэл нэгтгэх зорилгоор ийм хэрэгсэл ашиглахыг буруутгахгүй байгаа ч энэ нь хууль тогтоомжийн чанар, найдвартай байдалд эрсдэл учруулж болзошгүй юм.
Одоогоор Капитолын ордонд хиймэл оюун ухааны хэрэглээг зохицуулах тодорхой журам байхгүй бөгөөд ажилтнуудыг энэ чиглэлээр хариуцлагад татсан тохиолдол гараагүй байна. Төлөөлөгч Клео Филдсийн туслах Сидни Брум зэрэг зарим ажилтан өөрсдийн санаачилгаар хиймэл оюун ухааныг баримт бичгийг эхнээс нь бичихэд ашиглахгүй байх дүрэм баримталж байгаа ч энэ нь нийтлэг жишиг болоогүй байна.
Засгийн газрын бүх түвшинд хиймэл оюун ухааныг нэвтрүүлэх бодлого эрчимжиж байгаа энэ үед Конгресст хяналт сул байгаа нь хууль эрх зүйн баримт бичигт алдаатай мэдээлэл, хиймэл оюун ухааны “хий үзэгдэл” буюу бодит бус мэдээлэл нэвтрэх эрсдэлийг бий болгож байна. Одоогоор холбооны түвшинд энэ технологийг зохицуулах асуудал тодорхойгүй хэвээр байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
The use of AI chatbots has invaded almost every profession.
From lawyers getting caught citing hallucinated cases and major consulting firms generating nonsensical reports to teachers using AI to revise likely AI-generated essays from students, the tech has become practically ubiquitous.
Even those responsible for setting new rules on how to regulate the use of AI are making extensive use of the flawed tech. As the Washington Post reports, the use of tools like OpenAI’s ChatGPT, Anthropic’s Claude, and xAI’s Grok, has quickly become commonplace in Congress.
One particularly egregious example involved the office of representative Anna Paulina Luna (R-FL) accidentally copy-pasting the output of a Claude prompt into the public record of the National Defense Authorization Act.
“increasing example specific factors. Identical to H.R. 100 (118th Congress).11:25 AM????Claude responded:” the garbled document read.
To Luna, it’s all in a day’s work when drafting a Congressional defense bill.
“A lot of staff will use ChatGPT, Claude, Grok. I personally like Grok better, but my staffer prefers Claude,” Luna told the WP. “I’m not gonna knock him for that. There’s nothing illegal about him doing a summary.”
Employees in both the House and the Senate are making liberal use of the tools, a terrifying new reality that could result in nonsensical language and hallucinations to slip into anything from congressional speeches to emails to laws themselves — if it hasn’t happened already without anybody noticing.
That’s because there’s practically no oversight on Capitol Hill, as the WP points out. There haven’t been any instances of a staffer being formally disciplined for AI use specifically breaking a patchwork of lax rules, either.
While plenty of representatives have admitted to consulting chatbots for research, the real risk lies in aides using the tech largely unsupervised.
Some, like Sydney Broome, an aide to representative Cleo Fields (D-LA), were inspired to set their own rules. Broome told the WP that she decided to never use AI tools to write documents from scratch, a wise practice inspired by a rule she encountered while still in college. (Congress itself has no such rule.)
It’s the latest outcome of the Trump administration’s push to have every corner of the government adopt AI at all costs.
It also highlights just how little oversight there is on how the tech is used on Capitol Hill, suggesting federal regulations will likely remain a complete moot point for the time being.
More on AI slop: Employees Long for the Days Before the Workplace Filled Up With AI Slop
The post Congressional Staffers Are So Lazy That They’re Using AI to Write New Laws appeared first on Futurism.
