Starul adolescentului Marvel Xochitl Gomez este cea mai recentă victimă a pornografiei deepfake. Cu toate acestea, după ce a găsit deepfake-urile explicite din punct de vedere sexual neconsensuale care circulă pe X, fostul Twitter, ea a fost confuză când platforma nu a reușit să ia măsuri și să le elimine.
Odată cu creșterea inteligenței artificiale, au apărut multe probleme, dar pornografia deepfake este una dintre cele mai îngrijorătoare. În timp ce deepfake-urile există de ceva timp, progresele tehnologice le-au făcut mai accesibile și mai convingătoare. Drept urmare, multe persoane, în special femei, și-au găsit asemănarea luată sau recreată fără consimțământul lor și folosită în conținut pornografic. A devenit o problemă masivă pentru celebritățile de sex feminin, dar și pentru femeile obișnuite care au experimentat ca asemănarea lor să fie folosită în conținut sexual explicit pentru porno răzbunare, hărțuire și hărțuire. Există, de asemenea, o preocupare majoră cu privire la utilizarea deepfakes pentru a descrie abuzul asupra copiilor.
Din păcate, în prezent nu există legi federale împotriva pornografiei false neconsensuale și doar câteva state au legislație care protejează cetățenii de aceasta. Multe femei care au devenit victime ale pornografiei deepfake s-au trezit fără opțiuni de a lupta împotriva acesteia din cauza lipsei de reglementare și a ilegalității internetului. Majoritatea nu au resursele financiare pentru a lua măsuri legale. Chiar și celebrități precum Scarlett Johansson au declarat că este inutil să încerce să lupte împotriva deepfake-urilor.
Un nivel mic de protecție pe care îl au femeile provine de la platformele de social media care au interzis pornografia deepfake și generată de inteligență artificială. Dacă aceste site-uri impun astfel de interdicții, circulația acestui conținut dăunător ar fi mai dificilă. Cu toate acestea, experiența lui Gomez arată că rețelele sociale nu își aplică regulile.
Xochitl Gomez vorbește despre experiența ei cu pornografia deepfake
(Axelle/Bauer-Griffin/Getty)
În timp ce apărea pe podcastul Taylor Lautner și al soției sale, Strângerea , Xochitl Gomez (alias America Chavez) a vorbit despre experiențele ei ca victimă a pornografiei deepfake. Tânăra de 17 ani a dezvăluit că a găsit materialul sexual explicit care circulă pe X, fost Twitter, dar îi este extrem de greu să îl elimine. X a interzis pornografia generată de inteligență artificială încă din 2018 și are politici împotriva imaginilor și videoclipurilor deepfake explicite din punct de vedere sexual, precum și a media înșelătoare și a nudității neconsensuale. Având în vedere că imaginile lui Gomez încalcă în mod clar regulile lui X și că acest conținut conținea un minor, s-ar fi gândit că platforma va lua imediat măsuri.
Cu toate acestea, Gomez a fost șocată când a descoperit că echipa ei a încercat deja să ia măsuri împotriva conținutului fără niciun rezultat. NBC News raportat că încă de pe 19 ianuarie 2024 fotografiile mai puteau fi găsite pe X, care nu a răspuns solicitărilor de comentarii. Gomez a explicat că conținutul a lăsat-o ciudată și dorea cu disperare să fie eliminat, deoarece nu a fost un aspect bun pentru ea. Ea a întrebat: De ce este atât de greu să dai jos? Acesta a fost tot gândul meu despre asta, a fost: „De ce este permis acest lucru?”
În cele din urmă, totuși, ea s-a resemnat să accepte că pur și simplu conținutul nu poate fi eliminat, dezvăluind că pur și simplu încearcă să nu se gândească la asta și își pune telefonul deoparte pentru a rezolva problema. Cu toate acestea, întrebările pe care le-a pus rămân foarte relevante. De ce este atât de greu ca acest conținut să fie eliminat? Este condamnabil din punct de vedere moral și dezgustător când pornografia falsă este făcută de orice individ care nu consimț. Este de-a dreptul oribil când este vorba de un minor. Pe X circulă pornografie infantilă reală, iar platforma, în mod bizar, nu face nimic în privința asta, chiar dacă aceasta ar trebui să fie cea mai presantă problemă de rezolvat.
Nu pare o situație complexă dacă o persoană raportează materiale cu caracter sexual explicit și notifică platformei că nu și-a dat acordul. Materialul contravine mai multor reguli de pe site. Ce altceva mai este de revizuit sau determinat? Este deja suficient de traumatizant pentru ca un individ să găsească acest tip de conținut pe rețelele sociale; cel puțin aceste platforme ar putea face este să adere la solicitările lor de a-l elimina. Niciun individ, mai ales un minor, nu ar trebui să accepte doar că conținutul există, deoarece X și alte platforme de socializare refuză în mod persistent și nedumerit să-și protejeze utilizatorii.
(imagine prezentată: Axelle/Bauer-Griffin/FilmMagic/Getty)
