Tag deepfake

Anul acesta vin alegerile prezidentiale in Statele Unite si toata lumea se teme de faptul ca retelele sociale nu vor fi in stare sa gestioneze aceasta situatie cum trebuie. Iar retelele sociale pot avea o mare influenta asupra rezultatului unor alegeri, mai ales atunci cand vorbim despre America si tarile mai civilizate. Daca in 2016, a fost mare tam-tam in ceea ce priveste interventia ruseasca in alegeri (felul in care Putin l-ar fi ajutat pe Trump sa devina presedintele SUA), si mai toate platformele social media, in special Facebook, au fost cazut responsabile pentru lack of foresight (ca nu au anticipat si nu au gestionat bine acest lucru), atunci situatia e mult mai grava acum. Vorbim despre deepfake, o tehnologie prin care poti face o persoana sa para ca a facut sau a spus un anumit lucru, cand de fapt persoanei respective nici prin cap nu i-au trecut astfel de actiuni. Cum spunea un utilizator acum ceva vreme, o sa ajungem sa ne fie dor de vremurile in care puteam avea incredere in videoclipuri, exact la fel cum acum tanjim dupa vremurile in care puteam avea incredere in fotografii. Vorbe mari. 

Deocamdata, aceasta tehnologie deepfake nu are o expunere atat de mare pe internet incat sa aiba oricine acces la astfel de falsuri. Insa, imagineaza-ti haosul pe care l-ar cauza un o astfel de tehnologie daca ar fi accesibila publicului larg. Problema se va agrava in cel mai scurt timp posibil, e un lucru de care sunt 100% sigur. Software-ul deepfake este deja disponibil online, desi momentan e doar in anumite zone ale deep web si e contra-cost, de cele mai multe ori. Iar daca e in afara deepweb, e bine ascuns de motoare de cautare precum Google, Bing sau chiar si DuckDuckGo. Primele videoclipuri deepfake au fost destul de slabe din punct de vedere al tehnicii, pentru ca au fost realizate prin intermediul a sute sau mii de fotografii falsificate ale unei persoane astfel incat sa para convingatoare. Dupa cum spuneam si mai sus, pentru alegeri ar fi un rezultat haotic. Mai ales pentru faptul ca politicienii duc vieti publice si sunt disponibile o multime de fotografii cu acestia in mediul online. Si chiar cei de la Samsung au declarat, la un moment dat, ca au dezvoltat o tehnica ce ar permite crearea unor videoclipuri false realiste dintr-o singura imagine. Abordarea va fi, aproape sigur, inversata, facand mai usoara productia de videoclipuri deepfake.

Pana acum, s-au facut videoclipuri deepfake cu Mark Zuckerberg laudandu-se cu controlul datelor cu caracter personal (desigur, sub forma de pamflet) si cu Barack Obama, blestemand stirile false. Anul trecut, un videoclip cu Nancy Pelosi a fost modificat pentru a face ca purtatoarea de cuvant a Camerei sa para beata in timpul unui interviu. Tocmai acel videoclip a cauzat controverse in Statele Unite, iar oamenii politici traiesc cu frica ca ar putea fi luati la rand cu astfel de videoclipuri. Si ca aceste videoclipuri ar urma sa aiba o influenta semnificativa pentru rezultatul alegerilor prezidentiale.

Recent, a fost un fond de 10 milioane de dolari (8.1 milioane de lire sterline sau, la in banii de la noi, aproximativ 42 de milioane de lei) pentru a gasi modalitati mai bune de a detecta asa-numitele videoclipuri deepfake. Aceasta suma este pusa la dispozitie de catre Facebook, Microsoft si mai multe universitati din Marea Britanie si Statele Unite, pentru ca sa se gaseasca mai multe metode pentru a combate aparitia acestor videoclipuri in mediul online. Cele care au ca scop denigrarea deliberata a unor anumite persoane ar trebui sa aiba parte de acest tratament, parerea mea. Ca mai exista si pamflete, create explicit pentru amuzamentul unor utilizatori. Ca cel in care apare Zuckerberg spunand cat de importante sunt datele utilizatorilor pentru piata globala si cum a avut el ocazia de a-si cladi imperiul pe baza acestora.

Clipurile deepfake folosesc software bazat pe inteligenta artificiala pentru a-i face pe oameni – adesea politicieni sau celebritati – sa spuna sau sa faca lucruri pe care nu le-au spus sau facut niciodata. O multime de oficiali se tem de faptul ca astfel de videoclipuri vor putea fi folosite cu scopul de a semana dubii in privinta unor oameni politici pe nedrept (cand s-au semanat dubii pe nedrept in privinta politicienilor?) sau pentru a manipula opinia publica. Ceea ce, intr-adevar, sunt preocupari reale, pentru ca aceasta tehnologie poate fi folosita pentru aceleasi scopuri ca revenge porn. Imagineaza-ti cazul in care vreun hacker scormonneste prin mizeriile unui politician si gaseste lucruri interesante, urmand sa-l santajeze pentru a scoate bani. Daca politicianul respectiv refuza, pac, un video deepfake pe internet in care respectivul “vorbeste” despre acele lucruri. 

Revenind la aceasta donatie, se pare ca numerarul ar urma sa ajute la creearea sistemelor de detectare, precum si a unui „set de date” de falsuri cu care instrumentele pot fi testate. Nu inteleg cum s-ar putea descurca tehnologia moderna in ceea ce priveste amenintarea deepfake in ciuda acestor donatii, insa e un lucru pe care urmeaza sa-l vad cu ochii mei.

„Scopul provocarii este acela de a produce tehnologie pe care toata lumea sa o poata utiliza  pentru a detecta mai bine momentele in care inteligenta artificiala a fost utilizata pentru a modifica un videoclip pentru a induce in eroare privitorul”, a scris Mike Schroepfer, directorul tehnic al celor de la Facebook, intr-o postare de blog in care a descris cu lux de amanunte ce priveste proiectul .

Unul dintre elementele cheie va fi creerea setului de date utilizat pentru calibrarea si evaluarea diferitelor sisteme de falsificare. Dl Schroepfer a spus despre aceste seturi de date ca, pentru alte sisteme bazate pe inteligenta artificiala (inclusiv cele care pot identifica imagini sau limba vorbita), au insemnat o „renastere” în aceste tehnologii si au determinat o inovatie la scara larga. Acest set de date va fi generat folosind actori platiti pentru a realiza scene care pot fi apoi utilizate pentru a crea videoclipuri deepfake pe care diferitele sistemele dezvoltate din acesti bani vor incerca sa le detecteze.

Virginia a avut, de o gramada de timp, o politica de a interzice revenge porn, acel tip de pornografie care include publicarea pe internet a unor imagini compromitatoare cu o fata (si, rareori, si cu un baiat), de catre fostul / fosta partener(a). Este unul dintre cele mai josnice lucruri pe care ai putea sa le faci vreodata, sa distribui poze cu fosta prietena intr-o intimitate la care doar tu ai avut acces la un moment dat. Este justificabila doar daca fosta prietena te-a facut de bani sau de proprietati, dar cum probabil nu esti destul de bogat, nu cred ca ai proprietati, iar atunci cand vine vorba de bani, poti sta linistit, ca altii au pierdut mult mai mult decat ai pierdut tu. Stiu, poate ii luai cadouri scumpe dupa care stateai nemancat cateva zile, asta e viata, dar in loc sa te razbuni, mai bine ai reflecta de ce ti-ai pierdut timpul cu o “panarama” (dupa cuvintele tale, nu ale mele) si ai trage concluziile din relatia esuata. Adica ce trebuie sa faci sa nu mai treci printr-o situatie similara. In primul rand, sa nu cauti o fata doar pentru p***a. Altfel, o sa repeti aceeasi greseala la nesfarsit. 

In fine, revenind la subiect: interdictia Virginiei privind revenge porn include, incepand de astazi, si imagini sau videoclipuri deepfake. Deepfake, o tehnologie despre care crezi ca nu este destul de raspandita in mediul online si care, totusi, uite ca este la dispozitia unor oameni care sunt dispusi la a compromite imaginea publica a unei fete pentru o relatie fara succes. Oricum relatiile din ziua de astazi nu sunt facute sa dureze.

O lege actualizata, care a intrat în vigoare luni, extinde un articol deja existent care spune ca orice persoana care distribuie sau comercializeaza imagini sau videoclipuri nud sau sexuale pentru a “constrange, a hartui sau a intimida” o persoana este vinovata de un delict de clasa 1. Actualizarea adauga niste randuri despre “o imagine video sau imagine statica creata fals”, dupa cum au aratat anterior cei de la Ars Technica. Adunarea Generala din Virginia a votat in favoarea proiectului de lege actualizata in martie, atunci cand a fost semnata si de guvernatorul Ralph Northam.

Deepfakes sunt o tehnologie controversata, pentru ca aduc preocupari din ce in ce mai mari in privinta vietii private. Saptamana trecută, o aplicatie numita DeepNude, care utilizeaza inteligenta artificiala pentru a transforma fotografiile femeilor imbracate in nuduri, a fost eliminata. Pe buna dreptate, zic eu, pastrarea unei astfel de program pe platforma de internet este inca o dovada a faptului ca internetul poate fii mai retardat decat este in prezent. Ca si cum nu ar fii destule masele de copii care si l-au transformat in loc de joaca si se dau mari zmei din fata unui ecran si a unei tastaturi, cel mai probabil intr-o camera la bloc cu peretii crapati. 

Samsung a dezvoltat, de asemenea, un sistem AI care poate crea un clip fals dintr-o singura imagine. Anul trecut, Reddit a interzis pornografia deepfake.

Atunci cand purtatoarea de cuvant de la Casa Alba, Nancy Pelosi, a aparut intr-un videoclip modificat care i-a atacat credibilitatea, cuvintele ei au sunat incremenite si confuze. Dar reactia celor de la Facebook, Twitter si YouTube, care a alimentat raspandirea videoclipului, a dat nastere la un dezacord cu privire la modul in care companiile tech ar trebui sa-si gestioneze continutul manipulat. Pe 22 mai, o pagina de Facebook numita Politics WatchDog a postat videoclipul, care a fost incetinit pentru a da impresia ca legiuitoarea democrata din California era beata in timp ce isi spunea cuvintele. Acest videoclip a facut rapid inconjurul tuturor celor trei mari retele sociale. Intr-un fel de aparenta timpurie a  provocarilor cu care s-ar putea confrunta in timpul alegerilor din SUA in 2020, fiecare a avut raspunsuri diferite.

Facebook a permis videoclipului sa ramana pe platforma sa, dar a moderat disponibilitatea acestuia prin aplicatia care afiseaza doar articole de catre verificatorii de fapt. YouTube l-a sters. Twitter l-a lasat sa ramana pe platforma sa. Diferitele raspunsuri subliniaza provocarea pe care, mai nou, manipulează video si dezinformarea la scara mai larga o reprezinta pentru companii. Retelele sociale au reguli impotriva postarii informatiilor inselatoare intentionate, dar incearca, de asemenea, sa incurajeze exprimarea libera. Găsirea unui echilibru se dovedeste a fi un lucru dificil, mai ales din cauza faptului ca ceea ce se promite a fi un sezon electoral deosebit de disputat e pe cale sa inceapa curand. 

Joi, Comitetul de Informatii al Congresului a tinut o audiere cu privire la mijloacele de manipulare si asa-zisele videoclipuri “deepfake”, o tehnica care foloseste inteligenta artificiala pentru a crea videoclipuri cu oameni care fac sau spun ceva ce nu au facut sau spus niciodata. Videoclipul cu Pelosi, intr-o forma mai simpla de video editat, pe care unii spectatori o considera o inregistrare cat se poate de reala, nefiind privita ca un deepfake, este un exemplu al modului in care companiile social media trateaza continutul manipulat.

“Videoclipul cu Pelosi a subliniat, intr-adevar, problemele cu care se confrunta companiile social media in efectuarea acestor solicitari de judecată”, a declarat Eric Goldman, directorul Institutului de Drept High-Tech de la Universitatea Santa Clara. Videoclipul, a spus el, este inselator si a fost folosit ca o “arma”, insa a tinut sa adauge faptul ca acesta poate fi considerat un comentariu politic.

Problema se va agrava probabil. Software-ul deepfake este deja disponibil online. Primele astfel de falsuri s-au bazat pe sute sau mii de fotografii ale persoanei care au fost falsificate pentru a obtine rezultate convingatoare. Deoarece politicienii duc vieti publice, sunt disponibile mai multe fotografii despre acestia. Insa chiar si daca aceasta cerinta se schimba, Samsung a declarat recent ca a dezvoltat o tehnica ce ar permite crearea unor videoclipuri false realiste dintr-o singura imagine. Abordarea va fi, aproape sigur, inversata, facand mai usoară fabricarea de videoclipuri deepfake.

Videoclipuri deepfake au fost create cu Kim Kardashian, directorul executiv al Facebook, Mark Zuckerberg, dar si cu fostul presedinte Barack Obama. Calitatea acestor videoclipuri falsificate a ingrijorat agentiile americane de informatii ca acestea ar putea fi utilizate pentru un eventual amestec in alegeri, atat in ​​SUA, cat si in tarile aliate.