O tânără virtuală creată cu ajutorul inteligenței artificiale, concepută inițial pentru a preveni radicalizarea adolescenților, a fost deturnată și folosită ca simbol viral al extremei drepte pe rețelele sociale, arată The Guardian.
Fenomenul ridică semne de întrebare privind răspândirea urii și manipularea digitală.
„Amelia”, avatarul AI devenit simbol al extremei drepte
„Amelia” este un avatar AI. El personifică o elevă britanică cu păr mov, look gotic și un mic steag al Marii Britanii. În clipurile distribuite masiv pe platforme precum Facebook și X, „Amelia”apare plimbându-se prin Londra sau în fața Parlamentului. Ea promovează mesaje naționaliste și avertizează asupra unor presupuse pericole legate de imigrație sau comunități musulmane, mai scrie The Guardian.
Deși mesajele nu sunt noi în mediile extremiste, faptul că avatarul este generat artificial permite oricui să creeze rapid variante și scenarii noi, folosind instrumente AI accesibile. În acest mod, răspândirea conținutului poate fi amplificată într-o viteză uluitoare, potrivit Mediafax.
De la joc educațional la propagandă online
Inițial, „Amelia” a fost creată pentru un joc educațional. Finanțat de Ministerul de Interne britanic, jocul era destinat tinerilor între 13 și 18 ani. Denumit „Pathways: Navigating the Internet and Extremism”, jocul oferea scenarii interactive prin care adolescenții învățau să identifice riscurile conținutului extremist online. Asadar, Amelia era un personaj negativ, menit să exemplifice pericolele radicalizării.
Versiuni modificate ale avatarului au apărut ulterior pe rețelele sociale, complet rupte de scopul inițial.
"Amelia" s-a viralizat rapid pe rețelele sociale
Conform unei analize Peryton Intelligence, un cont anonim cunoscut pentru distribuirea de materiale extremiste a lansat meme-ul „Amelia” pe X pe 9 ianuarie. În câteva zile, numărul postărilor zilnice a crescut de la circa 500 la peste 10.000. Au apărut reinterpretări în stil anime, animații tip Wallace & Gromit și interacțiuni fictive cu alte personaje din cultura pop. Iar toate erau însoțite de mesaje rasiste sau anti-imigrație.
'Monetizarea urii'
Într-o evoluție neașteptată, imaginea „Ameliei” a fost folosită pentru promovarea unei criptomonede speculative. Interesul a crescut după ce Elon Musk a redistribuit un mesaj despre tokenul asociat meme-ului. Experții în combaterea extremismului avertizează asupra unei „monetizări a urii”, în care simbolurile radicale sunt exploatate pentru profit.
Creatorii proiectului educațional original au declarat că au fost surprinși de amploarea fenomenului și au primit amenințări online. Specialiștii atrag atenția că estetica personajului, combinată cu sexualizarea subtilă și tonul provocator, este concepută să atragă în special tineri bărbați.
Reacția autorităților britanice
Autoritățile britanice afirmă că programe precum Pathways rămân eficiente și au ajutat mii de persoane să evite ideologii violente. Cu toate acestea, cazul „Amelia” arată cât de ușor pot fi deturnate proiecte educaționale într-un mediu online dominat de algoritmi și tehnologiile AI.
Comentează