Cercetătorii Institutului Fraunhofer pentru Optronică, Tehnologii de Sistem și Exploatarea Imaginilor din Germania au dezvoltat RealorRender, un instrument care detectează deepfake-uri și indică elementele pe care își bazează verdictul. Proiectul, finanțat de Oficiul Federal german pentru Securitatea Informației, combină clasificarea prin învățare profundă cu o încercare de reconstruire a imaginii analizate. Potrivit rezultatelor prezentate de Fraunhofer, rata de recunoaștere se situează între 85% și 91%. Abordarea urmărește să răspundă unei probleme esențiale: imaginile autentice și cele sintetice sunt adesea greu de deosebit de către oameni.
- RealorRender încearcă mai întâi să reconstruiască imaginea, apoi calculează eroarea și o clasifică.
- Fraunhofer indică o rată de recunoaștere cuprinsă între 85% și 91%.
- Sistemul evidențiază prin hărți termice zonele care au influențat decizia.
- Proiectul a fost finanțat de Oficiul Federal german pentru Securitatea Informației.
RealorRender combină reconstrucția cu clasificarea imaginii
Procesul începe prin introducerea imaginii într-un generator AI, care încearcă să o reproducă. Un al doilea model realizează clasificarea și calculează eroarea de reconstrucție, iar rezultatul final include o estimare procentuală a preciziei.
Andreas Specker, cercetător în cadrul grupului Fraunhofer pentru sisteme de securitate și asistență video, explică faptul că ușurința cu care generatorul reproduce sursa este folosită drept indiciu că imaginea inițială a fost creată artificial.
Sistemul nu oferă doar eticheta „autentic” sau „generat de AI”, ci încearcă să arate ce trăsături ale imaginii au condus la această concluzie.
Această componentă aparține domeniului inteligenței artificiale explicabile, cunoscut și ca XAI. În general, astfel de metode fac mai ușor de examinat elementele folosite de un algoritm, fără ca explicația să garanteze automat că verdictul este corect.
Hărțile termice fac verdictul mai ușor de verificat
RealorRender marchează regiunile suspecte sub forma unor hărți termice și a unor segmente formate din elemente de imagine alăturate. Potrivit Nadiei Burkart, coordonatoarea grupului Applied Explainable AI de la Fraunhofer IOSB, texturile distinctive și anumite tipare de frecvență pot indica originea sintetică a unei imagini.
Pentru dezvoltatori, această transparență înseamnă că pot vedea ce indicii influențează modelul și îi pot ajusta acuratețea. Pentru cei care verifică o fotografie, explicațiile vizuale ar putea oferi un punct de plecare mai util decât un simplu scor, deoarece zonele semnalate pot fi analizate separat.
Intervalul de precizie anunțat, de 85%-91%, arată însă că RealorRender nu este infailibil și că rezultatul său nu ar trebui confundat cu o certitudine absolută.
Abuzurile cu imagini sintetice amplifică nevoia de verificare
Miza depășește manipularea unor fotografii. O investigație din 2023 citată de guvernul britanic a identificat 276.149 de deepfake-uri sexuale pe un singur site dedicat, 96% dintre acestea reprezentând femei. În septembrie 2023, site-urile care oferă servicii de „dezbrăcare” digitală au atras la nivel global 24 de milioane de vizite.
Jess Phillips, ministrul britanic responsabil de protecție și de combaterea violenței împotriva femeilor și fetelor, a susținut că asemenea aplicații nu sunt farse inofensive și că autoritățile trebuie să coopereze cu firmele de tehnologie împotriva exploatării și șantajului sexual. Miniștrii britanici au promis și măsuri care să împiedice copiii să creeze, distribuie sau vadă imagini nud cu ajutorul telefoanelor.
Impactul va depinde de integrarea în instrumentele folosite zilnic
RealorRender ar putea conta în practică dacă tehnologia va fi integrată în platforme, sisteme de moderare sau fluxuri profesionale de verificare. Pentru utilizatorii din România, o asemenea integrare ar putea însemna un instrument suplimentar pentru evaluarea imaginilor personale, comerciale ori politice distribuite online.
Totuși, detectarea nu împiedică producerea unui deepfake și nu înlocuiește regulile platformelor sau verificarea sursei. Pe măsură ce generatoarele se schimbă, utilitatea unui detector depinde și de capacitatea sa de a fi actualizat și testat pe imagini noi. Avantajul declarat al sistemului Fraunhofer este că explicațiile sale le permit dezvoltatorilor să observe de ce a fost luată o decizie și să lucreze la îmbunătățirea modelului.
Ați avea încredere într-un detector de deepfake-uri care oferă atât un scor, cât și o explicație vizuală a verdictului?
