Nastoletnia gwiazda Marvela, Xochitl Gomez, jest najnowszą ofiarą deepfake porno. Jednak po odkryciu, że na platformie X, dawniej Twitterze, krążą fałszywe fałszywe treści o charakterze jednoznacznie seksualnym, była zdezorientowana, gdy platforma nie podjęła działań i ich nie usunęła.
Wraz z rozwojem sztucznej inteligencji pojawiło się wiele problemów, ale deepfake porno jest jednym z najbardziej niepokojących. Chociaż deepfakes istnieją już od dłuższego czasu, postęp technologiczny uczynił je bardziej dostępnymi i przekonującymi. W rezultacie wiele osób, zwłaszcza kobiet, zostało skradzionych lub odtworzonych bez ich zgody i wykorzystanych w treściach pornograficznych. Stało się to ogromnym problemem dla celebrytek, ale także dla zwykłych kobiet, które doświadczyły wykorzystywania swojego podobizny w treściach o charakterze jednoznacznie seksualnym w celu zemsty, molestowania i znęcania się. Istnieją również poważne obawy związane z wykorzystywaniem deepfakes do przedstawiania przemocy wobec dzieci.
Niestety, obecnie nie ma przepisów federalnych zakazujących rozpowszechniania fałszywej porno bez zgody i tylko w kilku stanach obowiązują przepisy chroniące przed nią obywateli. Wiele kobiet, które stały się ofiarami fałszywej pornografii, nie ma możliwości walki z nią ze względu na brak regulacji i bezprawie w Internecie. Większość nie ma środków finansowych, aby podjąć działania prawne. Nawet gwiazdy takie jak Scarlett Johansson stwierdziły, że próby walki z deepfake’ami są bezcelowe.
Jeden niewielki poziom ochrony, jaki zapewniają kobiety, zapewniają platformy mediów społecznościowych, które zakazały treści pornograficznych typu deepfake i generowanych przez sztuczną inteligencję. Jeśli te witryny będą egzekwować takie zakazy, utrudni to rozpowszechnianie szkodliwych treści. Doświadczenie Gomeza pokazuje jednak, że media społecznościowe nie egzekwują swoich zasad.
Xochitl Gomez opowiada o swoich doświadczeniach z deepfake porno
(Axelle/Bauer-Griffin/Getty)
Występując w podcaście Taylora Lautnera i jego żony: Ściśnięcie , Xochitl Gomez (alias America Chavez) opowiedziała o swoich doświadczeniach jako ofiara fałszywej pornografii. 17-latka ujawniła, że znalazła materiały o charakterze jednoznacznie seksualnym krążące na platformie X, dawniej Twitterze, ale niezwykle trudno jest jej je usunąć. X zakazał treści pornograficznych generowanych przez sztuczną inteligencję już w 2018 r. i posiada zasady dotyczące fałszywych obrazów i filmów o charakterze jednoznacznie seksualnym, a także wprowadzających w błąd mediów i nagości za zgodą użytkownika. Biorąc pod uwagę, że zdjęcia Gomeza wyraźnie naruszają zasady X i że w treściach pojawia się osoba nieletnia, można by pomyśleć, że platforma natychmiast podejmie działania.
Jednak Gomez była zszokowana, gdy odkryła, że jej zespół próbował już podjąć działania przeciwko treści, ale bezskutecznie. Wiadomości NBC zgłoszone że jeszcze 19 stycznia 2024 r. zdjęcia w dalszym ciągu można było znaleźć na portalu X, który nie odpowiedział na prośby o komentarz. Gomez wyjaśniła, że ta treść ją zdziwiła i desperacko chciała, żeby została usunięta, ponieważ nie wyglądała dla niej dobrze. Zapytała: Dlaczego tak trudno to zdjąć? To była cała moja myśl na ten temat: „Dlaczego jest to dozwolone?”
Ostatecznie jednak pogodziła się z faktem, że treści po prostu nie da się usunąć, zdradzając, że po prostu stara się o tym nie myśleć i odkłada telefon, aby zająć się tym problemem. Mimo to pytania, które zadała, pozostają bardzo aktualne. Dlaczego czy tak trudno jest usunąć tę treść? Tworzenie fałszywego porno przedstawiającego osobę nie wyrażającą na to zgody jest moralnie naganne i obrzydliwe. To wręcz przerażające, gdy dotyczy to nieletniego. Na platformie X krąży faktyczna pornografia dziecięca, a platforma, co dziwniejsze, nic z tym nie robi, mimo że powinien to być najpilniejszy problem do rozwiązania.
Trudno nazwać to skomplikowaną sytuacją, jeśli dana osoba zgłasza materiały o charakterze jednoznacznie seksualnym i powiadamia platformę, że nie wyraziła na to zgody. Materiał jest sprzeczny z wieloma zasadami obowiązującymi na stronie. Co jeszcze jest do sprawdzenia lub ustalenia? Znalezienie tego rodzaju treści w mediach społecznościowych jest już wystarczająco traumatyczne; jedyne, co te platformy mogą zrobić, to zastosować się do ich żądań usunięcia. Żadna osoba, zwłaszcza nieletnia, nie powinna po prostu zaakceptować istnienia treści, ponieważ X i inne platformy mediów społecznościowych uporczywie i kłopotliwie odmawiają ochrony swoich użytkowników.
(przedstawione zdjęcie: Axelle/Bauer-Griffin/FilmMagic / Getty)
