Sztuczna inteligencja rozwija się w zawrotnym tempie. Deepfake’i z dnia na dzień stają się coraz bardziej realistyczne. Jakie niosą zagrożenia i jak można je rozpoznać? Na te pytania odpowiedzieli naszej redakcji specjaliści z instytutu NASK (Naukowa i Akademicka Sieć Komputerowa).
Spis treści
Sztuczna inteligencja jest coraz większym zagrożeniem
Deepfake jest zdjęciem lub nagraniem, które zostało wygenerowane przez sztuczną inteligencję. Materiał ma imitować prawdziwą osobę lub sytuację i zazwyczaj jest wykorzystywany przez oszustów. W ten sposób złodzieje ukradli ponad 100 milionów złotych z firmy zlokalizowanej w Hongkongu, a skala ataków przeraża. Początkowo deepfake wykorzystywany był do podmiany twarzy w materiałach wideo, a efekt był daleki od rzeczywistości. Obecnie technologia jest w stanie modyfikować rozmowę na żywo, o czym informuje Michał Ołowski, ekspert z Zakładu Biometrii NASK.
Przy użyciu technologii deepfake złodzieje mogą prowadzić z nami rozmowy z obrazem i dźwiękiem na żywo, budować zaufanie, a w końcu oszukać nas, nakłaniając do przekazania pieniędzy. Obronić nas może krytyczne myślenie i podejrzliwość, zwłaszcza w przypadku nietypowych próśb o wsparcie finansowe.
Michał Ołowski, ekspert z Zakładu Biometrii NASK dla Android.com.pl
Jak skutecznie rozpoznać deepfake?
Oszuści dążą do wyłudzenia informacji bankowych lub nawet otrzymania przelewu prosto na konto. Aby uchronić się przed takim zagrożeniem, należy dokładnie analizować materiały pod kątem wiarygodności i zgodności z faktami. Konkretne porady przygotowała Aleksandra Staszewska z Działu Przeciwdziałania Dezinformacji w NASK.
Jakość wideo. Jeśli mamy możliwość pobrania obrazu w wysokiej rozdzielczości, warto to zrobić — często dopiero wtedy można zauważyć nieregularności obrazu lub widoczne piksele, które mogą wskazywać na manipulację.
Aleksandra Staszewska, ekspertka z Działu Przeciwdziałania Dezinformacji NASK dla Android.com.pl
W materiałach wideo szczególną uwagę należy zwrócić na wszelkie nieregularności w obrazie. Wygenerowane nagrania są coraz lepsze, ale do doskonałości jeszcze trochę im brakuje.
Nagranie dźwiękowe. Zakłócenia, szumy czy wtrącenia, sztuczne brzmienie również mogą być wskazówką, że mamy do czynienia z materiałem zmanipulowanym. W filmach deepfake ścieżka audio często ma gorszą jakość od ścieżki wideo.
Aleksandra Staszewska, ekspertka z Działu Przeciwdziałania Dezinformacji NASK dla Android.com.pl
Przed analizą dźwięku warto zadbać o ciche otoczenie. Nawet na głośniku w smartfonie czasami można usłyszeć nietypowe zakłócenia.
Szczegóły. Jeśli w materiale występują osoby, warto sprawdzić, czy np. głowa jest ułożona naturalnie w stosunku do całego ciała lub czy jej odbicie jest widoczne w witrynie. W przypadku materiałów deepfake można zauważyć także nienaturalne mruganie (przez to, że większość technologii bazuje na obrazach z otwartymi oczami, mruganie na deepfake’u może być np. zbyt częste).
Aleksandra Staszewska, ekspertka z Działu Przeciwdziałania Dezinformacji NASK dla Android.com.pl
Sztuczna inteligencja miewa problemu z naturalnymi zachowaniami i odruchami. Szczególną uwagę należy zwrócić na mruganie.
Połączenie dźwięku i obrazu. Czy ruch ust jest zsynchronizowany z dźwiękiem? Opóźnienia między jednym a drugim mogą wskazywać, że ścieżka dźwiękowa i wizualna zostały ze sobą sztucznie połączone.
Aleksandra Staszewska, ekspertka z Działu Przeciwdziałania Dezinformacji NASK dla Android.com.pl
Przy ocenie opóźnień należy wziąć poprawkę na sposób odsłuchu. Urządzenie wykorzystujące Bluetooth, nawet takie jak słuchawki bezprzewodowe z naszego rankingu mogą generować opóźnienie nawet w prawdziwych nagraniach.
Montaż. Wszelkie nieprawidłowości między obrazami, takie jak: przeskakujące klatki, zmieniający się kolor lub różne kąty padania światła, nietypowe cienie lub ich brak, również mogą wskazywać deepfake.
Aleksandra Staszewska, ekspertka z Działu Przeciwdziałania Dezinformacji NASK dla Android.com.pl
Najnowsze deepfake dobrze radzą sobie z postaciami, natomiast nie zawsze panują nad całokształtem. Jeśli w materiale bez cięć można zauważyć nietypowe zachowanie cieni czy kolorów, można zakładać, że mamy do czynienia z oszustwem.
Jeśli w dalszym ciągu mamy problem z określeniem wiarygodności, warto udać się po poradę do organizacji takich jak Demagog, Fake Hunter lub administracji platform społecznościowych. Aktualnie użytkownik internetu powinien uważać na każdą próbę wyciągnięcia danych lub pieniędzy. Warto zweryfikować nawet prośbę o pomoc pochodzącą od znajomego lub członka rodziny. W tym celu najlepiej spotkać się osobiście lub wykorzystać bardziej klasyczną metodę komunikacji jak połączenie telefoniczne.
Źródło: NASK, oprac. własne. Zdjęcie otwierające: artoleshko / Depositphotos
Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.