Deepfakes, imagini, video-uri sau bucăți de înregistrări audio generate de AI care pot reproduce oameni reali în ipostaze false, a stârnit fenomenul de „revenge porn” sau „pornografie non-consensuală”, unde AI-ul este folosit pentru a genera imagini sau videoclipuri indecente și postate pentru răzbunare.

Pentru a combate acest fenomen și a sprijini victimele, Microsoft a anunțat un parteneriat cu StopNCII, o organizație care ajută victimele să creeze o amprentă digitală pentru imagini, fie ele reale sau nu. Mai apoi, partenerii StopNCII pot folosi amprenta digitală pentru a șterge imaginile de pe platformele lor, conform TechCrunch.

Am discutat pe larg despre fenomenul deepfakes, cum putem identifica video-urile false și ce soluții avem la îndemână să ne protejăm alături de specialiștii Bitdefender.

Microsoft a anunțat îndepărtarea a peste 268.000 de imagini explicite care au fost trecute prin serviciul de căutare Bing. În trecut, Microsoft a mai oferit o metodă de raportare a conținutul de tip ”revenge porn”, dar compania a susținut că nu a fost de ajuns.

Nvidia depășește Apple și devine cea mai valoroasă companie din lume

”Am ascultat îngrijorările victimelor, experților și a altor părți interesate de problemă și am realizat că simpla raportare a problemei nu are impact și nu adresează riscul adus de accesarea acestor imagini,” a declarat Microsoft într-o postare pe blogul oficial al companiei. În cadrul acesteia, compania oferă și un ghid privind modul în care pot fi raportate imaginile deepfake din categoria pornografiei non-consensuale.

Îngrijorările sunt cu atât mai ridicate când vine vorba de o platformă mult mai utilizată: Google Search. Potrivit TechCrunch, din 2020 și până acum, utilizatorii Google din Coreea de Sud au raportat peste 170.000 de linkuri din Search și YouTube care aveau conținut de tip revenge porn.

La rândul lor, cei de la Google pun la dispoziție în Search propriile instrumente pentru a raporta și îndepărta astfel de conținut din rezultatele căutărilor pe platformă, dar compania a fost criticată de foști angajați și victime pentru că a refuzat parteneriatul cu StopNCII, spune o investigație de la Wired.

Aplicații precum Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub și OnlyFans s-au alăturat parteneriatului cu StopNCII pentru a opri răspândirea conținutului malițios și fals.

Ar trebui interzis internetul copiiilor sub 16 ani?