Videoclipuri false cu agenți ICE generare de AI inundă rețelele …

Radiodifuzorul public german ZDF a retras un corespondent din Statele Unite la sfârșitul lunii februarie, după ce un videoclip generat de inteligență artificială a apărut într-un reportaj despre agenții Serviciului de Imigrare și Control Vamal (ICE) din SUA.

Postul de televiziune s-a scuzat pentru utilizarea clipului, care înfățișa copii agățați de mama lor în timp ce aceasta era arestată de agenți ICE. Videoclipul purta un filigran Sora, o indicație clară că a fost creat cu instrumentul video al OpenAI.

Echipa The Cube, departamentul de verificare a faptelor al Euronews, a descoperit că videoclipul face parte din mii de clipuri generate de AI cu agenți ICE care inundă rețelele sociale, multe dintre ele fără etichetare clară și care acumulează colectiv milioane de vizualizări.

Un tipar consistent de conținut fals

Datele furnizate către The Cube de firma de detectare AI TruthScan arată peste 200 de clipuri scurte care înfățișează agenți ICE urmăriți de profesori, luptându-se în baruri și fiind arestați de Departamentul de Poliție din New York (NYPD) în metrou.

TruthScan a declarat că a extras peste 200 de videoclipuri dintr-un singur cont de Instagram. Videoclipurile sunt scurte, dramatice și încărcate emoțional. The Cube a constatat că contul continuă să posteze în masă clipuri generate de AI cu agenți ICE, unele obținând mii, altele milioane de vizualizări.

Există diverse indicii care arată că videoclipurile nu sunt reale: într-un exemplu, aburii par să se ridice printr-o suprafață solidă în timpul unei confruntări între un agent ICE și un lucrător dintr-o cafenea — un semn subtil că clipul este sintetic.

Conform TruthScan, fiecare videoclip avea exact 10 sau 15 secunde, sugerând puternic că au fost generate folosind modelul video Sora 2 al OpenAI, care oferă utilizatorilor opțiuni de 10 sau 15 secunde. Spre deosebire de multe videoclipuri generate de AI care conțin un filigran, majoritatea acestor clipuri cu ICE nu au.

Risc mai amplu pentru încrederea publicului

Experții spun că riscul se extinde dincolo de etichetarea incorectă a clipurilor individuale la proliferarea mai largă a conținutului fals pe teme politice sensibile, ceea ce poate submina încrederea publicului.

„Există un risc semnificativ pentru răspunsurile colective la acțiunile forțelor de ordine, atât negative, cât și pozitive”, a declarat Ari Abelson, co-fondator al OpenOrigins, o companie de autenticitate media care detectează deepfake-uri.

„Este o preocupare pentru agențiile de aplicare a legii care doresc să-și mențină încrederea, dar este, de asemenea, important pentru instituțiile care le trag la răspundere atunci când depășesc limitele”, a spus Abelson pentru The Cube.

Mai multe știri.

Conținut manipulat ajunge până la Casa Albă

La fel ca în cazul transmisiunii ZDF, conținutul ICE generat de AI nu se limitează la conturi anonime. Uneori ajunge chiar la cele mai înalte eșaloane ale funcțiilor publice.

În ianuarie, Casa Albă a postat o imagine modificată digital a activistei și avocatei Nekima Levy Armstrong în urma arestării ei la un protest legat de ICE în Minnesota. O analiză arată că imaginea alterată o înfățișează pe Armstrong cu pielea mai închisă la culoare și plângând vizibil, comparativ cu imaginea originală.

Casa Albă a răspuns la întrebările privind manipularea imaginii cu o postare de la directorul adjunct de comunicare Kaelan Dorr, care spunea: „DIN NOU pentru oamenii care simt nevoia să apere în mod reflex autorii unor crime odioase în țara noastră, vă transmit acest mesaj: Aplicarea legii va continua. Meme-urile vor continua.”

Armstrong a declarat că este „dezgustată” de Casa Albă pentru postarea imaginii.

Vezi si Cursuri copii

Nevoia de măsuri de siguranță clare

Conform lui Abelson, preocuparea apare dacă există o lipsă de bariere de protecție — sau măsuri de siguranță — pentru a indica clar că conținutul este fals.

„Caricaturile politice au fost întotdeauna folosite în politică și acestea sunt folosite în moduri foarte similare”, a spus el. „Diferența cheie este cât de hiper-realiste devin videoclipurile.”

„Spațiile sociale și informaționale necesită un singur lucru: capacitatea de a dovedi că o fotografie și un videoclip sunt reale, astfel încât să ne putem bucura de cele false ca ficțiuni și să simțim gravitatea evenimentelor din viața reală”, a adăugat el.