Fondul Naţiunilor Unite pentru Copii (UNICEF) a lansat miercuri un apel către guverne pentru incriminarea conţinuturilor generate de AI şi care conţin referiri la abuzuri sexuale împotriva copiilor, organizaţia afirmând că este alarmată de o creştere rapidă a numărului de imagini sexualizate ale copiilor create cu inteligenţa artificială, informează Reuters.
Agenţia a îndemnat de asemenea dezvoltatorii de sisteme AI să implementeze abordări de tipul safety-by-design pentru a preveni utilizarea abuzivă a modelelor AI. Potrivit UNICEF, companiile din industria digitală ar trebui să împiedice circulaţia acestor imagini printr-o moderare mai consistentă a conţinutului şi prin investiţii în tehnologii de detectare, potrivit Agerpres.
''Efectele nocive în urma abuzului prin deepfake este real şi urgent. Copiii nu au timp să aştepte alinierea legislaţiei'', a spus UNICEF într-un comunicat. Deepfake-urile sunt imagini, clipuri video şi audio generate de AI şi concepute pentru a părea că reprezintă persoane reale.
UNICEF a exprimat de asemenea temeri în ceea ce priveşte ''nudificarea'' copiilor cu ajutorul AI, care este folosit pentru a îndepărta hainele sau a modifica fotografiile şi a crea nuduri sau imagini sexualizate fabricate.
Cel puţin 1,2 milioane de copii din 11 ţări au dezvăluit că, în ultimul an, imaginile lor au fost manipulate în deepfake-uri explicit sexuale, potrivit UNICEF.
Marea Britanie a anunţat sâmbătă că plănuieşte să scoată în afara legii utilizarea AI pentru crearea de imagini de abuz sexual asupra copiilor, prima ţară care va face acest lucru.
În ultimii ani, au crescut temerile legate de utilizarea AI pentru generarea de conţinut legat de abuz sexual asupra copiilor, în special chatboţi precum Grok, proiectat de xAI, firma deţinută de Elon Musk, investigată pentru producerea de imagini sexualizate cu femei şi minori
Comentează