PolicyLM-1.7B нэртэй энэхүү хөнгөн жинтэй загвар нь агуулгыг бодит цаг хугацаанд, 50 миллисекундээс бага хугацаанд хянах боломжийг бүрдүүлжээ.
Musubi стартап компани контент зохицуулалтад зориулагдсан, нээлттэй жинтэй PolicyLM-1.7B хиймэл оюун ухааны загварыг мягмар гарагт танилцууллаа. Энэхүү загвар нь энгийн англи хэл дээр бичигдсэн контентын бодлогыг агуулгад шууд хэрэгжүүлэх зориулалттай бөгөөд 50 миллисекундээс бага хугацаанд шийдвэр гаргах чадвартай.
Уг загвар нь одоогийн нийгмийн сүлжээний платформуудад ашиглагддаг AI ангилагч системүүдтэй ижил өртөг, хурдтай ажиллахаар бүтээгджээ. Гэсэн хэдий ч орчин үеийн том хэлний загварын (LLM) уян хатан байдлыг агуулсан тул тусгай сургалт шаардахгүйгээр нарийн төвөгтэй бодлогуудыг хэрэгжүүлэх боломжтой юм. Бодлогын өөрчлөлт гарах үед загварыг дахин сургах шаардлагагүй нь платформ удирдах багуудад контентыг идэвхтэйгээр шошголох боломжийг олгоно гэж тус компанийн үүсгэн байгуулагч Филип Янкович тэмдэглэв.
Шийдвэр гаргах загварууд (decision models) нь есдүгээр сард Typesafe AI-ийн Jev загвар гарснаас хойш салбарын гол сэдэв болоод байна. Эдгээр загвар нь текст үүсгэхийн оронд контент тодорхой ангилалд хамаарах эсэхийг магадлалын үндсэн дээр хоёртын хэлбэрээр (binary judgement) дүгнэдэг. Энэхүү арга нь загварыг том хэлний загвараас хамаагүй хурдан бөгөөд хямд ажиллуулах боломжийг олгодог байна.
Филип Янковичийн хувьд шийдвэр гаргах загварын талаарх сонирхол нь 2024 оны GLiNER төслөөс эхлэлтэй ажээ. Musubi компани шинэ бүтээгдэхүүнээ Jev-ийн нэгэн адил ажилладаг боловч контент зохицуулалтад тусгайлан зориулсан, хэрэглэгч өөрөө ажиллуулах боломжтой загвар гэж тодорхойлсон байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
As decision models spread across the industry, a company called Musubi has a new idea for how to put them to work: moderating content. On Tuesday, Musubi announced a lightweight decision model made for real-time moderation called PolicyLM-1.7B, released with open weights.
The idea is to take a content policy written in plain English and apply it to messages in under 50 milliseconds. Musubi’s model is designed to be similar in cost and speed to the AI classifier systems that power moderation on most social platforms — but because it has the flexibility of a modern LLM, it can apply complex policies without special training. Even more important, the model won’t need new training when the policy changes, allowing for human policy-setters to iterate as much as they need.
As Musubi co-founder and chief AI officer Filip Jankovic sees it, it gives platform managers a way to label content proactively.
“Product teams just want a better understanding of what’s happening on their platform, especially as the amount of content is exponentially increasing,” Jankovic says. “Being able to label all of that in a very scalable, customizable way is extremely useful.”
Decision models have become a hot topic in the AI world since the release of Typesafe AI’s Jev in September, which was shortly followed by competing decision models from OpenAI and Amazon. Instead of outputting text, a decision model outputs outcome probabilities, though in this case the model outputs a binary judgement: either the content is in the category or it isn’t. By limiting the model’s output to a set of predetermined choices, decision models are able to run faster and cheaper than large language models, while still maintaining the flexibility of the transformer architecture.
One early use case is reining in misbehavior by AI agents — so it’s only natural to apply the same technology to human misbehavior.
Notably, Jankovic says his interest in decision models predates Jev, tracing it back to a 2024 project called GLiNER (Generalist Model for Named Entity Recognition) that deployed many of the same techniques.
Still, Musubi isn’t wary of the comparison. If anything, the company is eager to use the new interest in decision models to shine a light on content moderation. “If Jev caught your eye, PolicyLM-1.7B is the same kind of model, trained specifically for content moderation, that you can run yourself,” the product announcement reads.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
