Хиймэл оюун ухааны чатботтой харилцах үед өсвөр насныхны аюулгүй байдлыг хангах үүднээс эцэг эхчүүдэд мэдэгдэл илгээх шинэ системийг Meta нэвтрүүлэв.
Meta компани өөрийн Meta AI чатбот дээр өсвөр насныхан амиа хорлох эсвэл өөрийгөө гэмтээх тухай яриа өрнүүлбэл эцэг эхэд нь мэдэгдэх шинэ функцийг танилцууллаа. Тус компани аюултай агуулгатай харилцан яриаг илрүүлэх тусгай AI системийг хөгжүүлсэн бөгөөд алдаатай мэдэгдлээс сэргийлэхийн тулд илэрсэн мэдээлэл бүрийг хүний хяналтаар баталгаажуулсны дараа эцэг эхэд хүргэх юм. Хэрэв ярианы агуулга тодорхойгүй бол аюулгүй байдлыг нэн тэргүүнд тавьж, эцэг эхэд мэдээлэх зарчмыг баримтална гэж компани мэдэгдлээ.
Энэхүү шинэчлэлт нь АНУ, Их Британи, Австрали болон Канадад Instagram-ын эцэг эхийн хяналтын тохиргоог ашиглаж буй хэрэглэгчдэд нээлттэй болсон бөгөөд он дуусахаас өмнө дэлхий даяар ашиглалтад орох юм. Үүнээс гадна, өсвөр насныхны Meta AI-тай харилцах харилцаанд “Limited Content” буюу хязгаарлагдмал агуулгын тохиргоог нэмж, чатбот нь архи, бэлгийн харилцаа болон бусад эрсдэлтэй сэдвүүдээр хариулт өгөхөөс татгалзах боломжийг бүрдүүлжээ.
Технологийн салбарын зохицуулагчид болон эцэг эхчүүдийн зүгээс AI чатботуудын өсвөр насныханд үзүүлэх нөлөөллийн талаарх шүүмжлэл нэмэгдэж буй энэ үед Meta ийнхүү арга хэмжээ авч байна. Тус компани өмнө нь Instagram дээр амиа хорлохтой холбоотой хайлт хийх эсвэл Meta AI-тай өрнүүлсэн ярианы сэдвийг эцэг эхэд харуулах боломжийг бүрдүүлж байсан билээ.
Meta мөн хэрэглэгч (насанд хүрэгчид болон өсвөр насныхан) Meta AI-тай харилцах явцад амиа хорлох эрсдэл ажиглагдвал яаралтай тусламжийн албатай холбогдохоор төлөвлөж байна. Энэ нь Facebook болон Instagram платформ дээрх аюулгүй байдлын одоогийн бодлогыг чатботын орчинд өргөжүүлж буй хэрэг юм.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Meta announced on Thursday that it will now notify parents if their teen discusses suicide or self-harm with the company’s Meta AI chatbot. Meta says it’s also working on the ability to contact emergency services if someone’s conversations suggest they may be at risk of self-harm.
These changes arrive as Meta and other tech companies face scrutiny from regulators and parents over how AI chatbots respond to users in crisis, particularly teenagers —a liability question that’s increasingly shaping how AI companies design and market their products.
Meta says it has built a dedicated AI system to identify conversations where a teen makes a clear reference to hurting themselves.
“We understand how distressing these alerts may be for a parent to receive,” Meta wrote in a blog post. “That’s why, as we continue to improve our detection, all chats flagged by our AI will be manually reviewed before an alert is sent. If a teen’s intent is ambiguous, we’ll err on the side of caution and alert the parent. While that means we may sometimes notify parents when there may not be real cause for concern, we feel this is the right starting point, and we’ll continue to monitor to help make sure we’re in the right place.”
These alerts are now live for parents using Instagram Parental Supervision in the U.S., U.K., Australia, and Canada, and will roll out globally by the end of the year, Meta says.
This update builds on the alerts that Meta already sends to parents when their teen repeatedly searches for suicide or self-harm terms on Instagram. It also builds on a feature that allows parents to see the topics their teen discussed with Meta AI over the past week.
Meta also announced that its “Limited Content” setting—which lets parents place their teens in a more restrictive experience on Instagram—now applies to Meta AI as well. Meta AI is already trained to avoid sexual or romantic conversations or alcohol-related discussions with teens, and the Limited Content setting expands those safeguards by making the chatbot decline a broader range of prompts. Meta didn’t specify what those additional prompts include, but TechCrunch has asked for company for more information.
Additionally, Meta says it will contact emergency services if someone’s conversation with Meta AI, whether the user is an adult or a teen, suggests someone is at risk of suicide. It’s worth noting that Meta already takes this step when someone posts something on Facebook or Instagram that suggests they are at risk, so this extends that same practice to conversations with its chatbot.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
