Testul ratat

Cu vreo zece ani în urmă, un coleg de birou mi-a dat un test interesant cre circula pe internet. Trebuia să identifici din 10 fotografii care era manipulată în Photoshop și care nu. Când spun manipulare, nu mă refer la culoare/contrast/luminozitate ci la introducerea unor elemente care nu erau acolo la momentul fotografiei sau eliminarea unor elemente, schimbând astfel cu totul sensul inițial și mesajul transmis.

Eu aveam la vremea respectivă ceva experiență în Photoshop, și bazat pe ochiul format și cunoștințele despre ce și cum se poate sau nu se poate face, am pornit la treabă. Nu mai țin minte rezultatul exact, dar țin minte că a fost un dezastru. Un rezultat gen, am nimerit două și am greșit evaluarea la 8 imagini. Nici măcar nu mă apropiasem de realitate. Asta se întâmpla cu ani buni înainte de apariția AI-ului. Inteligența artificială, cel puțin în materie de grafică a schimbat jocul. Cantitatea de imagini și filmulețe manipulate, care circulă pe internet, este astăzi foarte mare.

Oamenii nu deosebesc ,,fotografia reală” de cea falsă

Dar ceea ce mă sperie pe mine, nu e neaparat cantitatea. Asta e cel mai ușor de obținut după ce ai inventat o mașină care produce. Dai enter și mașina produce cu zi, cu noapte. Mă sperie numărul mare de oameni care par să nu facă nicio diferență între o fotografie reală și una generată de inteligența artificială. Iar această incapacitate de a deosebi ,,poza bună” de ,,poza rea” este asemenea incapacității de a deosebi între bine și rău lasă larg deschisă poarta manipulării, a convingerilor false, a măsluirii albului în negru.  Mă sperie  convingerea cu care văd că se lansează pe social media, persoane care dezbat de fapt pe baza unei imagini manipulate. Că unii dintre noi mai reușim să vedem semnele ai-ului în imaginile generate, este încă o șmecherie. Dar sunt convins că va veni timpul când nimeni nu va mai putea distinge asta. De altfel, din timp în timp, în diverse contexte, câte-un cunoscut mă mai întreabă despre câte o fotografie dacă este ,,reală” sau nu. Cumva să zic eu ,,cu ochiul expertului”. Și eu, de ani buni am același răspuns: Nu poți ști decât dacă are EXIF-ul. EXIF este o bucățică de fișier text care însoțește orice fotografie, este cumva codificată în ea. Acolo scrie ora, data, când a fost făcută, aparatul foto, obiectivul, și toate setările folosite, precum și ultimul soft cu care s-a intervenit. Dacă ai pus un punct în Photoshp, nu vezi punctul, dar vezi că s-a intervenit și nu mai poți fi sigur de nimic. Problema este că aceste date exif pot fi șterse. Așadar fotografia care nu conține datele exif este deja susceptibilă de manipulare. 

Cine să te manipuleze și de ce?

În ce fel pot fi folosite aceste manipulări? În moduri noi de fraude pe care nici nu ți le imaginezi, pentru a fi convertite la final în bani. Iată doar câteva scheme simple care circulă în zilele nostre: 

1. Exploatarea sexualității prin vânzarea de materiale pornogafice deepfake cu personalități (aproape 4000 de celebrități au devenit victime ale pornografiei deepfake –  mediafax). Materialele pornografice deepfake sunt generate după analizarea de către AI de fotografii și filme care se găsesc online, și alterarea unui film pornografic existent astfel încât protagonistul să pară a fi celebritatea vizată. S-ar putea să ți se pară departe de tine, ce ai tu cu personalitățile? Ei bine, poate ești departe de viața lor mondenă, dar se practicăși distrugrea vieții personale cu același tip de materiale. 
2. Discreditarea unor politicieni sau persoane publice influente. Cel mai recent exemplu fiind o serie de clipuri video deepfake în care diferiți actori americani, solicită demisia Maiei Sandu.
3.  Cea mai simplă și mai ,,nevinovată” formă de manipulare este generarea de trafic pe rețele de socializare. Peisaje de iarnă superbe, pisici lenevind, fete frumoase în contralumină… Lumea fotografiei a fost practic dezmembrată. Ceea ce cu ani în urmă necesita studiul luminii, a posing-ului, viziune artistică și tehnică pentru a obține fotografia care face cât o mie de cuvinte, astăzi din două click-uri obții și mia de cuvinte și imaginea. Mai jos un exemplu de imagine generat automat de pixabay. Este un rezultat modest de la o variantă free. Variantele plătite bat deja realitatea. 

Am văzut zilele trecute pe grupuri din social media dedicate pasionaților de desen în creion, cum circulau o serie de desene generate de AI. Puțini și-au dat seama, dar mulți nu. Astfel anumiți utilizatori își pot creea un profil de desenator priceput, fără să fi pus cu-adevărat, vreodată, mâna pe creion. Mai nou am văzut că o rețea de socializare a introdus o opțiune de ,,send a gift” prin care utilizatorii pot dona sume modice creatorilor de conținut. Asta va face ca oamenii să ,,scormonească” după orice fel de idei fie ele stupide sau infantile, numai pentru a creea conținut și vizualizări cât mai multe.

Oamenii care nu lucrează în IT ar trebui să fie primii atenți la inteligența artificială

Dar să revenim la motivul care mi-a dat impulsul să scriu acest articol. Toate semnalele de alarmă pe care le văd în mass media se referă la industriile care pot pierde locuri de muncă din cauza inteligenței artificiale, în genere IT-ul. Nu dezbat tema, sunt destule analize în acest sens. Eu cred că la fel de expuși sau chiar mai expuși sunt restul oamenilor, cei non IT. Lor le este mult mai greu să identifice un deepfake și se simt mult mai ,,scutiți” și mai departe de eventualele efecte ale inteligenței artificiale. Din acest motiv sunt de fapt mai vulnerabili la manipulare.

Fotografiile și filmele nu mai pot fi considerate elemente de credibilitate.

Țineți cont că suntem doar la începutul fenomenului. Rezultatele vor fi tot mai rafinate, mai credibile și mai greu de deosebit. Prin urmare ar trebui să ne punem serios problema, ce crezare să mai dăm imaginilor și clipurilor video.  Într-adevăr, era un timp, când o fotografie putea fi făcută doar cu aparatul foto iar manipularea ei era complicată și falsurile relativ ușor de descoperit. În acele timpuri, credibilitatea pe care o acordam unei fotografii, era ridicată, însă astăzi situația s-a schimbat. Mai putem noi oare acorda credibilitate unei imagini sau filmări, care circulă în perioada ascensiunii inteligenței artificiale? Care vor fi elementele după care vom evalua ceea ce credem, dacă pe texte și imagini nu ne mai putem baza? 

Vorbind despre asta, imaginea cu care este ilustrat acest articol a fost generată de un AI direct din platforma WordPress. A fost prima dată când am observat opțiunea și am zis, hai să o încerc. Practic nu i-am dat niciun cuvânt cheie, a realizat ilustrația după subiectul din articol.