Meta Platforms şi-a cerut scuze joi şi a anunţat că a remediat ”o eroare” care a făcut ca unii utilizatori Instagram să primească în feedul de Reels recomandări cu imagini violente şi explicite, care nu ar fi trebuit afişate.
”Am rezolvat o eroare care a determinat ca unii utilizatori să vadă conţinut în Reels care nu ar fi trebuit recomandat. Ne cerem scuze pentru greşeală”, a transmis un purtător de cuvânt al companiei într-un mesaj citat de CNBC, potrivit Agerpres.
Problema a devenit vizibilă după ce numeroşi utilizatori au raportat pe reţelele sociale apariţia unui volum neobişnuit de mare de conţinut violent sau ”conţinut explicit”, chiar şi atunci când opţiunea ”Sensitive Content Control” era setată la nivelul maxim de moderare.
Conform politicilor interne ale Instagram, compania îndepărtează imaginile considerate extrem de deranjante, precum videoclipuri cu mutilări, răni grave sau cadavre arse, precum şi comentarii sadice la adresa unor astfel de imagini. O parte din conţinutul grafic este permis atunci când are rolul de a denunţa abuzuri sau conflicte, dar este marcat cu avertismente.
Miercuri seara, în SUA, jurnaliştii CNBC au identificat mai multe postări în Reels care prezentau cadavre, răni grave şi agresiuni violente, etichetate drept ”Sensitive Content”.
Platforma afirmă că utilizează tehnologii interne bazate pe inteligenţă artificială şi o echipă de peste 15.000 de moderatori pentru a detecta şi elimina rapid materialele care încalcă regulile, majoritatea fiind eliminate înainte să fie raportate de utilizatori.
Eroarea din Reels a apărut într-un moment în care Meta îşi modifică politicile de moderare pentru a promova mai mult libertatea de exprimare.
Compania a anunţat în ianuarie că sistemele automate nu vor mai căuta ”toate încălcările posibile”, ci vor prioritiza doar încălcările grave, precum terorismul, exploatarea sexuală a minorilor, drogurile sau fraudele. Pentru încălcările mai puţin severe, platforma se va baza pe raportările utilizatorilor.
Mark Zuckerberg a mai anunţat că platforma va permite mai mult conţinut politic şi va schimba programul de fact-checking cu un model ”Community Notes”, similar celui de pe platforma X a lui Elon Musk. Deciziile sunt interpretate drept o încercare de a îmbunătăţi relaţia cu preşedintele SUA, Donald Trump, critic al politicilor de moderare ale Meta.
Contextul este complicat de restructurările masive din 2022–2023, când Meta a concediat 21.000 de angajaţi, afectând puternic echipele responsabile de integritatea civică şi siguranţa pe platforme.
Comentează