Facebook doneaza 10 milioane de euro pentru un efort de a detecta videoclipurile deepfake

Recent, a fost un fond de 10 milioane de dolari (8.1 milioane de lire sterline sau, la in banii de la noi, aproximativ 42 de milioane de lei) pentru a gasi modalitati mai bune de a detecta asa-numitele videoclipuri deepfake. Aceasta suma este pusa la dispozitie de catre Facebook, Microsoft si mai multe universitati din Marea Britanie si Statele Unite, pentru ca sa se gaseasca mai multe metode pentru a combate aparitia acestor videoclipuri in mediul online. Cele care au ca scop denigrarea deliberata a unor anumite persoane ar trebui sa aiba parte de acest tratament, parerea mea. Ca mai exista si pamflete, create explicit pentru amuzamentul unor utilizatori. Ca cel in care apare Zuckerberg spunand cat de importante sunt datele utilizatorilor pentru piata globala si cum a avut el ocazia de a-si cladi imperiul pe baza acestora.

Clipurile deepfake folosesc software bazat pe inteligenta artificiala pentru a-i face pe oameni – adesea politicieni sau celebritati – sa spuna sau sa faca lucruri pe care nu le-au spus sau facut niciodata. O multime de oficiali se tem de faptul ca astfel de videoclipuri vor putea fi folosite cu scopul de a semana dubii in privinta unor oameni politici pe nedrept (cand s-au semanat dubii pe nedrept in privinta politicienilor?) sau pentru a manipula opinia publica. Ceea ce, intr-adevar, sunt preocupari reale, pentru ca aceasta tehnologie poate fi folosita pentru aceleasi scopuri ca revenge porn. Imagineaza-ti cazul in care vreun hacker scormonneste prin mizeriile unui politician si gaseste lucruri interesante, urmand sa-l santajeze pentru a scoate bani. Daca politicianul respectiv refuza, pac, un video deepfake pe internet in care respectivul “vorbeste” despre acele lucruri. 

Revenind la aceasta donatie, se pare ca numerarul ar urma sa ajute la creearea sistemelor de detectare, precum si a unui „set de date” de falsuri cu care instrumentele pot fi testate. Nu inteleg cum s-ar putea descurca tehnologia moderna in ceea ce priveste amenintarea deepfake in ciuda acestor donatii, insa e un lucru pe care urmeaza sa-l vad cu ochii mei.

„Scopul provocarii este acela de a produce tehnologie pe care toata lumea sa o poata utiliza  pentru a detecta mai bine momentele in care inteligenta artificiala a fost utilizata pentru a modifica un videoclip pentru a induce in eroare privitorul”, a scris Mike Schroepfer, directorul tehnic al celor de la Facebook, intr-o postare de blog in care a descris cu lux de amanunte ce priveste proiectul .

Unul dintre elementele cheie va fi creerea setului de date utilizat pentru calibrarea si evaluarea diferitelor sisteme de falsificare. Dl Schroepfer a spus despre aceste seturi de date ca, pentru alte sisteme bazate pe inteligenta artificiala (inclusiv cele care pot identifica imagini sau limba vorbita), au insemnat o „renastere” în aceste tehnologii si au determinat o inovatie la scara larga. Acest set de date va fi generat folosind actori platiti pentru a realiza scene care pot fi apoi utilizate pentru a crea videoclipuri deepfake pe care diferitele sistemele dezvoltate din acesti bani vor incerca sa le detecteze.