Хэрэглэгчийн үүсгэсэн контентыг ашиглан хор хөнөөлтэй үйлдэл хийдэг болон хяналтын шалгалтаас нуугдаж хуурамч зорилгоор ашиглагддаг аппликейшнуудыг Apple компани бүрмөсөн хориглохоор болжээ.
Apple компани хөгжүүлэгчдэд зориулсан удирдамжаа шинэчилж, хиймэл оюун ухаан ашиглан хүсээгүй эсвэл доромжилсон шинжтэй контент бүтээдэг аппликейшнуудыг хориглохоо мэдэгдлээ. Ялангуяа “nudify” буюу зураг дээрх хүнийг нүцгэлэх үйлдэл хийдэг аппликейшнууд нь эхний шалгалтаар энгийн апп мэт харагдаж, зөвшөөрөл авсны дараа хортой функцээ идэвхжүүлдэг “bait-and-switch” тактикийг ашигладаг байна. Ийм төрлийн нуугдмал функц бүхий аппликейшнуудыг App Store-оос устгахаа тус компани цохон тэмдэглэв.
Шинэ журмын дагуу хэрэглэгчийн үүсгэсэн контент бүхий аппликейшнууд нь зохисгүй материалыг шүүх, гомдол гаргах, бүдүүлэг хандалттай хэрэглэгчийг блоклох боломжоор заавал хангагдсан байх ёстой. Мөн хүүхдийг мөлжих, хүний наймааг сурталчлах зэрэг хууль бус үйл ажиллагааг дэмждэг аппликейшнуудын эсрэг хуулийн заалтуудаа чангатгалаа.
Өнгөрсөн жилийн хувьд Apple-ийн хяналтын систем 150,000 гаруй аппликейшныг нэвтрэхийг хориглож, залилан болон дүрэм зөрчсөн 193,000 хөгжүүлэгчийн бүртгэлийг устгасан байна. Сан Франциско хотын зүгээс Apple болон Google компаниудыг дэлгүүртээ байршуулсан “nudify” аппликейшнуудыг устгахыг шаардаж, эдгээр апп-аас хураамж авч ашиг олж байгааг шүүмжилсэн нь ийнхүү арга хэмжээ авахад нөлөөлжээ.
Дөрөвдүгээр сард “Tech Transparency Project”-ийн тайланд дурдсанаар, хоёр технологийн аварга компанийн дэлгүүрүүдэд насанд хүрээгүй хүүхдэд тохиромжтой гэж ангилагдсан ч нүцгэлэх үйлдэл хийдэг аппликейшнууд байсаар байгааг илрүүлсэн юм. Apple компани ирээдүйд шалгалтаар батлагдсан хувилбарт байхгүй функцийг дараа нь нэмж оруулсан аливаа аппликейшныг шууд устгахаа мэдэгдлээ.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Apple tightened its developer guidelines over the weekend to ban apps that use AI to create offensive content, as well as those that masquerade as regular apps to pass the App Store review process and then turn into nudify apps, or surface those features prominently.
The company updated its guidelines with strong language around AI and user-generated content, and how app developers should include enough preventative measures to moderate objectionable or offensive content.
“Apps that host user-generated content are required to filter objectionable material, give users a way to report offensive content, and let users block abusive accounts. Apps containing hidden or undocumented features are also prohibited on the AppStore, including apps that misrepresent their purpose during review and only reveal harmful capabilities — such as “nudification” — after approval, a tactic commonly known as bait-and-switch,” the company said in a blog post.
Apple said that it will remove apps that add features not present in the version submitted for App Store review.
The iPhone maker has also updated the language in its legal section to reinforce that it will bar apps promoting human trafficking and exploitation of children.
Apple said last year its review process blocked over 150,000 apps from reaching users, and removed 193,000 developer accounts on account of fraud and abuse.
In July, San Francisco ordered both Apple and Google to clean up and delete nudification apps from their app stores. City Attorney David Chiu accused the companies of profiting from these apps through store fees. And in April, a Tech Transparency Project report indicated that both tech giants’ stores hosted multiple nudify apps, some of which were rated as suitable for minors.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
