Тус платформ аюулгүй байдлын технологио ROOST байгууллагаар дамжуулан бусад компаниудтай хуваалцаж эхлэв.
Roblox компани өөрийн аюулгүй байдлын гурван загварыг Robust Open Online Safety Tools (ROOST) нийгэмлэгээр дамжуулан нээлттэй эх сурвалж болгохоо зарлалаа. ROOST нь 2025 онд Roblox, Google, OpenAI, Discord нарын хамтран байгуулсан ашгийн бус байгууллага бөгөөд онлайн аюулгүй байдлын дэд бүтцийг хөгжүүлэх зорилготой юм. Roblox өөрийн платформ дээр ашиглагдаж буй PII Classifier, Roblox Sentinel болон дуу хоолойны аюулгүй байдлыг хянах сүүлийн үеийн загвараа ийнхүү олон нийтэд нээлттэй болгож байна.
PII Classifier нь хувийн мэдээллээ хуваалцахыг завдсан, эсвэл өөр платформ руу чиглүүлсэн далд утгатай мессежүүдийг илрүүлэх зориулалттай юм. Үүний зэрэгцээ, Roblox Sentinel нь хүүхдэд учрах эрсдэлийг эрт шатанд илрүүлж, дуу хоолойны аюулгүй байдлын хэрэгсэл нь чатыг бодит цаг хугацаанд хянах боломжийг олгодог. Эдгээр загвар нь 30 хэл болон найман төрлийн зөрчлийг илрүүлэх хүчин чадалтай бөгөөд бусад компаниудад өөрсдийн аюулгүй байдлын хэрэгслийг сайжруулахад туслах зорилготой аж.
Тус компанийн Итгэлцэл ба аюулгүй байдлын инженерийн асуудал хариуцсан дэд ерөнхийлөгч Нарен Конеру энэхүү алхам нь бусад платформд аюулгүй байдлын системээ хөгжүүлэхэд бат бөх суурь болно гэдгийг онцолсон байна. Тэрээр аюулгүй байдал бол нэг компани дангаараа шийдэх боломжгүй хамтын хариуцлага гэдгийг дурджээ.
Энэхүү шийдвэр нь АНУ-ын Сенатын Хууль зүйн дэд хорооноос Roblox-ийн хүүхдийн аюулгүй байдалтай холбоотой асуудлаар мөрдөн шалгах ажиллагаа эхлүүлсэнтэй давхцаж байна. Тус хороо Roblox-ийг хүүхдийн аюулгүй байдлаас илүү орлого болон хэрэглэгчийн оролцооны үзүүлэлтийг чухалчилдаг хэмээн буруутгаж, 2026 оны наймдугаар сарын 31-ний дотор холбогдох баримт бичгийг ирүүлэхийг шаарджээ. Сүүлийн жилүүдэд Roblox 13-аас доош насны хэрэглэгчдийн мессеж илгээх эрхийг хязгаарлах, нүүр царай таних систем ашиглах зэрэг аюулгүй байдлын хэд хэдэн арга хэмжээг нэвтрүүлээд байгаа юм.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Roblox is open-sourcing three of its AI safety models via the Robust Open Online Safety Tools Model Community (ROOST).
ROOST is an independent nonprofit that develops and maintains open-source infrastructure for online safety. Roblox co-founded ROOST in 2025 with Google, OpenAI, and Discord.
Roblox is contributing its PII Classifier, Roblox Sentinel, and its latest voice safety classifier to ROOST. These models are already deployed on Roblox’s platform.
The PII Classifier identifies attempts to share or request personally identifiable information (PII), including misspellings, coded language, and disguised references to other platforms.
Roblox is also sharing an evaluation dataset from this tool, which features “synthetic samples of English-language multiuser chats modelled on techniques often used to evade PII filters.”
Roblox Sentinel detects early signs of potential child endangerment. The latest voice safety classifier moderates voice chat in real time and incorporates feedback from the ROOST community.
Roblox is also releasing a new evaluation dataset to help companies assess the effectiveness of their safety tools. The latest version supports moderation in 30 languages and eight violation categories.
“Sharing these models gives other platforms a robust starting point to train and tune their own moderation tools,” said vice president of trust and safety engineering Naren Koneru. “In turn, we hope to benefit from the learnings and feedback of other companies as they share their work.”
“Safety is a shared responsibility – no company can solve it alone. Our intent in contributing to ROOST is to help other companies improve their own safety classifiers. We will continue sharing and learning from the ROOST community as we advance automated detection together.
Earlier this week, the US Senate Judiciary Subcommittee on Crime and Counterterrorism announced it had launched an investigation into Roblox, claiming the platform “appears to prioritise revenue and engagement metrics” over child safety.
Roblox has been told to provide records about child safety, sexual or physical abuse, bullying, and financial exploitation by August 31, 2026.
In recent years, Roblox has introduced several new safety measures. These include restrictions on direct messaging for users under 13, global facial recognition checks, a “sensitive issues” content tag for experiences, and enhanced moderation policies.
