Pornografia deepfake

Pornografia deepfake (zbitka wyrazowa od ang. deep learning „głębokie uczenie” (odnoszącego się do programu używanego do tworzenia filmów), oraz fake „fałszywy”^[1]) – segment pornografii polegający na komputerowym wygenerowaniu lub zmanipulowaniu przez sztuczną inteligencję (AI) obrazów, treści dźwiękowych lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe^[2].

Pornografia deepfake, lub po prostu fałszywa pornografia, to rodzaj sztucznej pornografii, która powstaje poprzez modyfikację istniejących już zdjęć lub nagrań wideo poprzez zastosowanie technologii deepfake do wizerunków uczestników. Wykorzystanie pornografii deepfake wzbudziło kontrowersje, ponieważ wiąże się z tworzeniem i udostępnianiem realistycznych filmów z udziałem osób nie wyrażających na to zgody, a czasami jest wykorzystywane do zemsty^[2][3]. Zjawiskiem pokrewnym jest nudyfikacja (ang. nudification), czyli generowanie nagiego lub seksualizowanego wizerunku konkretnej osoby na podstawie fotografii przedstawiającej ją w ubraniu. W odróżnieniu od szerzej rozumianej pornografii deepfake, która może obejmować m.in. podmianę twarzy, syntetyczne sceny seksualne i zmanipulowane materiały wideo, nudyfikacja odnosi się przede wszystkim do cyfrowego „rozebrania” obrazu wejściowego konkretnej osoby^[4][5][6][7]. Podejmowane są wysiłki w celu rozwiązania tych problemów etycznych poprzez przepisy prawne i rozwiązania technologiczne^[2][3].

Nudyfikacja bywa traktowana jako szczególny wariant pornografii typu deepfake lub jako zjawisko blisko z nią spokrewnione, jednak pojęcia te nie są tożsame^[4][5][6]. Nudyfikacja odnosi się zwykle do przetworzenia istniejącego zdjęcia osoby ubranej w syntetyczny obraz nagi albo częściowo nagi, natomiast pornografia deepfake jest pojęciem szerszym, obejmującym także podmianę twarzy, syntetyczne sceny seksualne i inne formy generowania seksualizowanych treści z użyciem AI^[4][5]. W praktyce granica między tymi kategoriami bywa płynna, ponieważ część komercyjnych usług łączy funkcje nudyfikacji z podmianą twarzy i osadzaniem postaci w gotowych scenach seksualnych^[4].

Techniki z zastosowaniem sztucznej inteligencji są wykorzystywane do tworzenia filmów deepfake^[8]. Przy użyciu dostępnego komercyjnie sprzętu, czas obliczeń dla filmów deepfake w 2017 roku wahał się od kilku godzin do kilku dni, w zależności od dostępnego sprzętu i czasu odtwarzania. Od 2020 roku normą było ręczne przetwarzanie wyników obliczeń^[9].

Pornografia deepfake była pierwotnie tworzona na małą skalę, przy użyciu połączenia algorytmów uczenia maszynowego, technik przetwarzania obrazu i oprogramowania z zastosowaniem sztucznej inteligencji. Proces rozpoczynał się od zebrania dużej ilości materiału źródłowego (w tym zarówno obrazów, jak i filmów) twarzy danej osoby, a następnie wykorzystania modelu głębokiego uczenia do wytrenowania sieci generatywnej GAN w celu stworzenia fałszywego filmu, który w przekonujący sposób zamienia twarz materiału źródłowego na ciało osoby występującej w pornografii. Proces produkcji znacząco ewoluował od 2018 roku wraz z pojawieniem się kilku publicznych aplikacji, które w dużej mierze zautomatyzowały ten proces^[3][10]. Od 2023 roku kilka aplikacji AI dostępnych w sklepach z aplikacjami potrafi wykorzystać zdjęcia użytkowników, aby generować niechcianą pornografię deepfake^[11].

Technologia deepfake rozwija się w bardzo szybkim tempie, a jednym z jej najgorszych zastosowań jest pornografia tworzona bez zgody osób przedstawianych na ekranie. W 2023 roku w sieci opublikowano ponad 95 tysięcy filmów pornograficznych stworzonych przy użyciu technologii deepfake. To wzrost aż o 550% w porównaniu z rokiem 2019. Jednocześnie aż 98% wszystkich deepfake’ów dostępnych online to pornografia. 99% ofiar przedstawionych w deepfake pornografii to kobiety, a 94% z nich to osoby związane z branżą rozrywkową. Dostępność technologii sprawia, że zagrożone są również zwykłe użytkowniczki (i użytkownicy), praktycznie każdy kto korzysta z mediów społecznościowych^[3][12].

Zjawiska cyfrowej przemocy mimo, że są trudne do uchwycenia da się zatrzymać. Konieczne są działania skoordynowane na wielu poziomach i prowadzonych z myślą zarówno o ofiarach, jak i o odpowiedzialności karnej twórców oraz platform. Kluczowe znaczenie ma przede wszystkim edukacja, gdzie rodzice i szkoły muszą wiedzieć, jak rozmawiać z dziećmi o zagrożeniach związanych z udostępnianiem wizerunku oraz codziennych nawykach w sieci^[3].

Mimo luk w systemie prawnym ofiary pornografii deepfake mają do dyspozycji szereg narzędzi umożliwiających blokowanie i usuwanie treści, w tym zabezpieczenie usunięcia na mocy nakazu sądowego, narzędzia ochrony własności intelektualnej, takie jak usunięcie treści na mocy ustawy DMCA, zgłaszanie naruszeń warunków korzystania z platformy hostingowej oraz usuwanie treści poprzez zgłaszanie ich wyszukiwarkom^[13].

Kilka dużych platform internetowych zakazało zamieszczania pornografii deepfake. Od 2018 roku Reddit, Twitter, Discord i Pornhub zakazały przesyłania i udostępniania treści pornograficznych deepfake na swoich platformach^[14][15]. We wrześniu tego samego roku Google dodał również do swojej listy zakazanych treści „niezamierzone syntetyczne obrazy pornograficzne”, umożliwiając użytkownikom wnioskowanie o usunięcie takich treści z wyników wyszukiwania^[16].

Jedną z organizacji, która zajmuje się obroną praw człowieka w przestrzeni cyfrowej oraz prowadzi działania w celu zwalczania przemocy cyfrowej i jej skutków jest organizacja non-profit HateAid zapewniając natychmiastową poradę i wsparcie prawne w przypadkach przemocy cyfrowej^[17].