Detectarea imaginilor false devine o miză majoră: cursa globală împotriva conţinutului generat de AI

Internetul este tot mai invadat de fotografii, videoclipuri şi meme-uri generate cu inteligenţă artificială, multe dintre ele aproape imposibil de distins de realitate. În acest context, guvernele, companiile tehnologice şi centrele de cercetare dezvoltă sisteme menite să identifice conţinutul "sintetic" şi să limiteze efectele fraudelor digitale.

Potrivit unei analize realizate de agenţia EFE, pierderile provocate de fraude bazate pe conţinut generat sau modificat de IA au depăşit 1,5 miliarde de dolari la nivel global în ultimul an.

O industrie în plină expansiune: instrumente pentru detectarea

imaginilor false

Numeroase aplicaţii sunt deja disponibile, unele gratuite, şi promit identificarea imaginilor generate de inteligenţa artificială prin analiza pixelilor, a distorsiunilor sau a amprentelor digitale ale sistemelor de generare. Printre acestea se numără IMGDetector.ai, RealReveal, AI or Not sau Vericta. Compania spaniolă Vericta a dezvoltat un sistem capabil să determine în câteva secunde dacă o imagine sau un videoclip este autentic ori fabricat digital.

Încrederea în imagini, tot mai fragilă

Co-fondatoarea Vericta, Georgina Viaplana, susţine că imaginile nu şi-au pierdut valoarea, dar oamenii tind să le accepte ca fiind reale fără verificări.

Ea avertizează că tocmai puterea unei imagini o face o ţintă ideală pentru manipulare. În mediul de afaceri, verificarea autenticităţii a devenit deja esenţială, mai ales în: asigurări, unde fotografiile pot fi falsificate pentru despăgubiri; comerţ electronic, pentru solicitări frauduloase de rambursare; sectorul imobiliar, pentru validarea proprietăţilor.

Hervé Lambert, Panda Security: "O cursă a înarmării digitale"

Experţii din securitate cibernetică avertizează însă că instrumentele de detectare nu vor fi niciodată infailibile. Potrivit lui Hervé Lambert, reprezentant al companiei Panda Security, evoluţia tehnologiei generează o competiţie permanentă între sistemele de detectare şi cele de generare a conţinutului fals. "Este o veritabilă cursă a înarmării digitale: fiecare progres în detectare duce la progrese în falsificare", afirmă acesta. Lambert consideră că eficienţa acestor instrumente depinde în mare măsură de cultura digitală a utilizatorilor. Statisticile arată că majoritatea oamenilor nu verifică autenticitatea informaţiilor, iar un procent ridicat consideră că dispozitivele lor nu au nevoie de protecţie. Specialiştii indică trei direcţii esenţiale pentru combaterea conţinutului fals: Reglementarea utilizării inteligenţei artificiale; Responsabilizarea platformelor online; Creşterea alfabetizării digitale şi a gândirii critice. În opinia lor, etichetarea obligatorie a imaginilor generate de IA ar putea ajuta, dar nu reprezintă o soluţie completă, deoarece metadatele şi filigranele pot fi manipulate.