Wystarczą dwa zdjęcia, odrobina wolnego czasu i można zniszczyć komuś życie. Problem deepnudes, czyli tworzonych za pomocą AI fałszywych rozbieranych zdjęć, rośnie jak na drożdżach i jak na razie wydajemy się bezsilni w walce z produkcją tego typu materiałów.
Zapytaliśmy przedstawiciela NASK Michała Koźbiała, jak dalece ta technologia jest już rozwinięta, czy istnieją sposoby na obronę przed nią, a także co grozi osobom, które bezprawnie wykorzystują zdjęcia innych do niecnych celów.
Spis treści
Problem deepnudes jest ogromny
Pojęcie „deepnudes” nie jest zupełnie nowe, ale dopiero z lawinowym rozwojem sztucznej inteligencji (AI) rozprzestrzeniło się z niszowych zakątków internetu niemalże do mainstreamu. Na początku 2024 roku głośno wybrzmiała sprawa Taylor Swift. Piosenkarka stała się ofiarą całej kampanii, w której jej wizerunek wykorzystano w najróżniejszych materiałach dla dorosłych, a te były wyświetlane na platformie X (dawny Twitter) dziesiątki miliony razy.
Rozchwytywanej celebrytce pomogły rzesze fanów, a przedstawiciele X dość szybko zareagowali na bulwersującą sytuację. Fala filmów dla dorosłych z twarzą Swift w końcu się załamała, a sprawa z czasem ucichła. Nie każdy ma jednak takie zaplecze jak rozchwytywana wokalistka. Problem w tym, że każdy szary człowiek może stać się ofiarą deepnudes w zaledwie parę chwil. A wyniki do złudzenia przypominają już autentyczne nagie zdjęcia.
Generowane obrazy już są naprawdę bardzo realistyczne i nawet mocno zaawansowane techniczne osoby mogą zostać oszukane przez takie materiały. Obecnie obserwujemy wyścig zbrojeń między kolejnymi narzędziami do tworzenia deepnudes a ekspertami, którzy chcą wykrywać tego typu manipulacje.
Michał Koźbiał, starszy inżynier oprogramowania NASK dla Android.com.pl
Zrozumieć wroga – czym są deepnudes?
Nazwę deepnudes z miejsca rozumiemy już na poziomie intuicyjnym. To odłam bardziej oswojonych już deepfake’ów. To nadal stworzona lub zmodyfikowana przez AI (deep learning – głębokie uczenie maszynowe) fałszywa treść (fake). Tu jednak słowem kluczem jest nudes, czyli intymne zdjęcia od lat wysyłane w internecie między partnerami romantycznymi (w najlepszym przypadku).
Jak wspomina ekspert, najogólniej narzędzia do produkcji deepnudes dzielimy na trzy rodzaje. Są to:
- Aplikacje rozbierające (nudifiers), które generują elementy nagiego ciała w miejsce ubrań;
- Narzędzia doklejające twarz ofiary (face swap) na ciała modelki lub modela treści dla dorosłych;
- Generatory tworzące całą scenę (scene generation) – najczęściej na podstawie pisemnego polecenia (promptu) lub przykładowego obrazka.
Dla osoby tworzącej rozbierane fałszywki podział ten jest jedynie funkcjonalny, bo typ narzędzia dobiera ona wyłącznie pod dostępne materiały, a nawet pod chwilową wygodę – metodą „na co pierwsze trafię w przeglądarce”. Tak, mówimy o tym poziome dostępu.
Niestety, w tym momencie wystarczy wpisać żądane hasła w wyszukiwarce i jesteśmy w stanie błyskawicznie znaleźć aplikacje, również darmowe, które pozwolą nam na wykonanie takich edycji.
Michał Koźbiał, starszy inżynier oprogramowania NASK dla Android.com.pl
Co gorsza, nie trzeba być wysokiej klasy informatykiem, by tworzyć tego typu treści. Zapomnijmy o wierszach poleceń, wymagającej wielu kroków instalacji czy długiej konfiguracji parametrów. Przeciętnemu znudzonemu nastolatkowi wystarczy kwadrans nauki i pierwszych prób.
Nie potrzeba do tego eksperckiej wiedzy czy wysokiej znajomości technologii. Tego typu rozwiązania potrafią działać jak aplikacje mobilne – są proste w użyciu, szybkie, a nawet oferują przyjazny użytkownikowi interfejs.
Michał Koźbiał, starszy inżynier oprogramowania NASK dla Android.com.pl
Jak walczyć z deepnudes?
Jakakolwiek walka z twórcami deepnudes już na starcie wydaje się nierówna. Mogą oni wybierać z miliardów obrazów z sieci, nowe narzędzia „do rozbierania” wyrastają jak grzyby po deszczu, a ich użycie rośnie.
Oczywiście najprościej byłoby w ogóle nie udostępniać swoich zdjęć w sieci, by twórcy deepnudes nie mieli materiałów źródłowych. W dzisiejszych czasach taki typ „abstynencji” wydaje się jednak niemożliwy.
Michał Koźbiał, starszy inżynier oprogramowania NASK dla Android.com.pl
Metody automatycznego wykrywania tak sfałszowanych treści są dziś niestety dopiero na początku drogi. Są wolniejsze, mniej zaawansowane, a ich rozwój wymaga sporych nakładów finansowych i pracy. A bez masowego systemu wykrywania podróbek ciężko będzie takie zdjęcia cenzurować czy kasować z zasobów różnorodnych serwisów.
Gołym okiem coraz ciężej wykryć zmodyfikowane zdjęcie, a identyfikowanie obrazów generowanych z wykorzystaniem AI przy użyciu technologii wciąż jest problematyczne. Narzędzi do tworzenia deepnudes jest bowiem dużo więcej niż programów stworzonych do wykrywania tak edytowanych zdjęć czy filmów. Programy rozbierające powstają też szybciej.
Michał Koźbiał, starszy inżynier oprogramowania NASK dla Android.com.pl
Nadzieją, ale obecnie jeszcze pieśnią przyszłości są inteligentne systemy tzw. hashowania obrazów. Hashe działają na zasadzie przypisania określonej wartości do obrazu na podstawie jego zawartości, dzięki czemu można szybko wykryć duplikaty grafiki czy filmu. Systemy inteligentnych hashy, oferowane np. przez Videntifier Technologies, są już w stanie wykryć obraz podobny, lecz zmodyfikowany – na przykład narzędziami deepnude.
Jeśli wszystkie duże serwisy sieciowe wprowadzą tego typu rozwiązania, to ofiara po wykryciu treści ze swoim wizerunkiem może jasno określić, którego hasha platforma ma dalej nie publikować. Powstaje jednak pytanie, kiedy takie systemy zostaną powszechnie wprowadzone.
Naprawdę bardzo ciężko jest bronić się przed tego typu atakiem. To, co możemy zrobić, to przede wszystkim edukowanie społeczeństwa. Co więcej, powinniśmy wywierać duży wpływ na podmioty mające możliwość zmniejszenia dostępności narzędzi do deepnudes w internecie. Aplikacje tego typu powinny zniknąć z wyszukiwarek sieciowych, a część z nich powinna zostać wręcz zamknięta.
Michał Koźbiał, starszy inżynier oprogramowania NASK dla Android.com.pl
Deepnudes są karalne, choć wyzwanie jest nowe
Inna głośna sprawa powiązana z deepnudes pochodzi z Włoch. W marcu bieżącego roku wykorzystano w ten sposób podobiznę premier państwa – Giorgii Meloni. Po znalezieniu przez policję twórców spreparowanych materiałów polityk domaga się od dwóch mężczyzn 200 tys. euro odszkodowania za zniesławienie. Mimo to filmy z Meloni krążyły w sieci przez parę miesięcy i zostały wyświetlone miliony razy.
Sprawy sądowe dotyczące deepnudes są na razie dość rzadkie, bo nowe jest także samo zjawisko. Choć nie jestem prawnikiem, mogę tu zaznaczyć, że istniejące zapisy prawa karnego, które piętnują rozpowszechnianie wizerunku nagiej osoby bez jej zgody. Obejmują one również sytuacje, w których wykorzystano deepnude.
Michał Koźbiał, starszy inżynier oprogramowania NASK dla Android.com.pl
Wyroki sądów w tych sprawach deepnudes można liczyć w sztukach, a dodatkowo twórcy deepnudes czują się mocno bezkarni. Dodatkowo podsycane jest to anonimowością oferowaną w internecie. Gdy jednak sprawca zostanie znaleziony, także polskie prawo mówi o znacznych konsekwencjach:
Utrwalanie wizerunku nagiej osoby
§ 1. Kto utrwala wizerunek nagiej osoby lub osoby w trakcie czynności seksualnej, używając w tym celu wobec niej przemocy, groźby bezprawnej lub podstępu, albo wizerunek nagiej osoby lub osoby w trakcie czynności seksualnej bez jej zgody rozpowszechnia, podlega karze pozbawienia wolności od 3 miesięcy do lat 5.
§ 2. Ściganie następuje na wniosek pokrzywdzonego.
Kodeks karny, Art. 191a.
Jak wspomina nam Koźbiał, osobne zapisy (Art. 202. KK) dotyczą produkcji i posiadania nieprzyzwoitych treści przedstawiających osoby niepełnoletnie. Ofiarami deepnudes coraz częściej padają bowiem osoby w wieku szkolnym, często na skutek działań swoich rówieśników.
Kolejną prawną podstawą karania twórców fałszywych treści tego typu jest zaś ustawa Prawo autorskie i prawa pokrewne (Rozdział 10, Art 81.). Ta jeszcze szerzej obejmuje bezprawne wykorzystywanie czyjegoś wizerunku.
Problem deepnudes bez wątpienia jest jednym z mroczniejszych aspektów boomu AI, a nasza obecna sytuacja niestety nie napawa optymizmem. Ofiarami opisywanych tu treści stają się zwykłe osoby, często przez głupi żart lub chęć zemsty anonimowego sprawcy.
Nasze obecne systemy technologiczne nie są w stanie efektywnie wykrywać i eliminować deepnudes z sieci, a przepisy zakazujące rozpowszechniania narzędzi do tworzenia takich treści po prostu nie istnieją. By zdusić tytułową plagę, musimy jednak zacząć działać już teraz.
Zdjęcie otwierające: Kristin Hardwick / StockSnap
Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.