Хиймэл оюун ухааны хүчирхэг загварууд нь программ хангамжийн сул талыг илрүүлэхэд туслахаас гадна хакеруудын зэвсэг болох эрсдэлтэй байгааг салбарынхан анхааруулж байна.
Өнгөрсөн сард АНУ-ын засгийн газар “үндэсний аюулгүй байдал”-ын шалтгаанаар Anthropic компанийн Mythos 5 болон Fable 5 загваруудыг түр хугацаанд зогсоосон. Fable 5 загварын аюулгүй байдлын хамгаалалтыг “эвдэх” боломжтой гэсэн болгоомжлол албаныхныг ийм шийдвэрт хүргэсэн юм. Долоодугаар сарын 1-ний байдлаар засгийн газрын зөвшөөрлийн дагуу Fable 5-ыг олон нийтэд нээлттэй болгож, Mythos 5-ыг 100 орчим байгууллага, агентлагт хязгаарлагдмал хүрээнд ашиглуулахаар болоод байна.
Үүний зэрэгцээ Бээжинд төвтэй Z.ai компани GLM-5.2 хэмээх нээлттэй загварыг зах зээлд гаргасан нь кибер аюулгүй байдлын нөхцөл байдлыг улам хурцатгав. Semgrep болон Graphistry компаниудын судалгаагаар GLM-5.2 нь Mythos 5-тай ижил түвшинд программ хангамжийн алдааг илрүүлэх чадвартай болох нь тогтоогджээ. Энэхүү загвар нь ямар ч техник хангамж дээр ажиллах боломжтой бөгөөд дундын зуучлагчгүйгээр ашиглагдах тул аюулгүй байдлын хувьд илүү эрсдэлтэй гэж үздэг.
Шинжээчдийн үзэж буйгаар Z.ai компани OpenAI-ийн GPT-5.5 болон Anthropic-ийн Opus 4.8 загваруудыг ашиглан “багш-сурагч” загвараар өөрийн бүтээгдэхүүнээ сургасан байх магадлалтай байна. Armadin компанийн технологийн захирал Трэвис Лэнхэмийн мэдээлснээр, хакерууд энэхүү загварыг орон нутгийн төхөөрөмж дээрээ аюулгүй байдлын хязгаарлалтгүйгээр ажиллуулж, өөрсдийн зорилтод нийцүүлэн тохируулах боломжтой болжээ. Одоогийн байдлаар хакерууд GLM-5.2 загварын хамгаалалтыг эвдэх аргачлалуудыг Орос хэл дээрх форумуудаар дамжуулан идэвхтэй солилцож байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Last month, the Trump administration forced AI company Anthropic to withdraw its most powerful Mythos 5 and Fable 5 AI models, citing “national security” issues. The government had gotten wind that Fable 5’s internal safety guardrails could be circumvented or “jailbroken,” in major vulnerabilities that spooked officials.
Anthropic itself has long warned that its latest models are adept at spotting cybersecurity vulnerabilities that can be exploited by bad actors. Up until the government clamped down, the company had only given a limited number of businesses and institutions access to Mythos 5, the more powerful and less restrained of the two models, to give them a chance to patch up any gaps in security.
Weeks later, the US government once again gave Anthropic green light to resume its limited roll out of Mythos 5. As of July 1, Fable 5 is once again available to the public, but for a steep off-subscription price, and Mythos 5 is available to around 100 US organizations and government agencies.
However, hackers looking to use AI to commit crimes are rapidly getting new options. As Forbes reports, Beijing-based AI company Z.ai has released an open-weight model, dubbed GLM-5.2, that can perform similar large-scale coding tasks and trade blows with Anthropic’s latest models when it comes to identifying vulnerabilities.
GLM-5.2 can be downloaded by anybody, can be run on virtually any hardware, and unlike Mythos or Fable, there’s no vendor playing the middle man between the AI models and the users, raising the cybersecurity stakes considerably.
Put simply, while these frontier models can aid researchers in patching holes in commonly used software, the can also be abused by hackers to bypass existing defenses.
Security firms Semgrep and Graphistry both found that GLM-5.2 was proficient at identifying software bugs and performing other cybersecurity tasks. “We Have Mythos at Home,” Semgrep titled its benchmarking.
Researchers at Graphistry also suggested Z.ai may have distilled OpenAI’s GPT-5.5 and Anthropic’s Opus 4.8 — a controversial practice that involves using one “teacher” AI to train a “student” model — which could explain how China was able to catch up so quickly, as Axios reports.
Consultants also told the publication that hackers are already trading GLM-5.2 jailbreaks on Russian-language forums, suggesting it’s a very real threat.
“An attacker can run it locally without safety guardrails, fine-tune it against their specific targets, and operate with zero visibility to any provider or defender,” AI cybersecurity firm Armadin CTO and founder Travis Lanham told Axios.
More on Mythos: The White House Suddenly Seems Pretty Terrified of Anthropic
The post Experts Say There’s Now an Open Source AI Model as Scary as Mythos appeared first on Futurism.
