Sztuczna inteligencja ma coraz większy wpływ na naszą percepcję rzeczywistości, co można łatwo wykorzystać do manipulacji faktami. Jednym z bardziej niepokojących zjawisk w tym kontekście jest technologia deepfake. W dalszej części artykułu przyjrzymy się, czym jest deepfake, jak powstaje oraz jakie sygnały mogą pomóc w jego rozpoznaniu.
Czym jest deepfake?
Termin deepfake powstał z połączenia dwóch angielskich zwrotów: deep learning (głębokie uczenie) oraz fake (fałsz) i określa technikę wykorzystującą zaawansowane algorytmy sztucznej inteligencji do tworzenia fałszywych materiałów, audio, wideo czy zdjęć, w taki sposób, aby były one nieodróżnialne od autentycznych treści multimedialnych. Przykładowo oryginalna twarz zostaje zastąpiona twarzą wygenerowaną, a technologia AI sprawia, że materiał zaczyna wyglądać bardzo wiarygodnie.
Tworzenie deepfake’a składa się z dwóch zasadniczych etapów:
- proces uczenia AI – analizowanie przez sztuczną inteligencję olbrzymiej liczby przykładowych materiałów (np. zdjęć, nagrań);
- generowanie fałszywego materiału – tworzenie przez algorytm nowej, nieprawdziwej treści multimedialnej (np. poprzez podmianę twarzy lub głosu danej osoby).
Aby osiągnąć zamierzony efekt, sztuczna inteligencja musi nauczyć się, jak zachowuje się ludzka twarz, jak brzmi głos konkretnej osoby, a tym samym opanować ogromną liczbę istotnych szczegółów i charakterystycznych cech. Służą temu odpowiednio opracowane algorytmy.
Jak działają algorytmy deepfake?
Fundament działań algorytmów deepfake stanowią sieci neuronowe oraz techniki uczenia maszynowego. Wspomniane sieci to struktury matematyczne odzwierciedlające budowę ludzkiego mózgu, służące do rozpoznawania wzorców i uczenia się na podstawie wprowadzonych danych.
W początkowym etapie sieć neuronowa szuka sposobów i możliwości rozwiązania określonej grupy problemów, a następnie uczy się, jak je rozwikłać. Jej działanie opiera się na analizie olbrzymiej liczby danych wejściowych, służących jako materiały wzorcowe (np. filmy, nagrania audio) oraz nauczeniu się, jak dany obiekt funkcjonuje w zależności od sytuacji. Następnie, na podstawie tych informacji generowane są nowe, fałszywe materiały audio lub wideo, które naśladują konkretne osoby (ich wygląd, mimikę twarzy, głos) w taki sposób, że wydają się realistyczne.
Co interesujące – sieć neuronowa jest w stanie sama nauczyć się, jak poprawnie wykonać zadanie – to, jakie połączenia zostaną utworzone między sztucznymi neuronami, nie jest efektem jej dokładnego zaprogramowania, lecz „dziełem” samej matematyki.
Przeczytaj również: Oszustwo w sklepie internetowym – jak się przed tym uchronić?
Jak rozpoznać deepfake?
Chociaż rozpoznanie deepfake’a może wydawać się trudne, warto jednak zwracać uwagę na detale – ich wychwycenie może być pomocne w rozpoznaniu manipulacji. Warto przyjrzeć się takim aspektom jak:
- ruch warg i mimika twarzy – czy pasują do wypowiedzi, są zsynchronizowane z dźwiękiem;
- deformacje wokół oczu, ust, nosa – czy nie występują nienaturalne asymetrie, plamy, kształty itp.;
- oświetlenie obiektu – czy twarz jest oświetlona tak samo, jak pozostała część zdjęcia, czy cienie występują naturalnie;
- jakość nagrania – czy wideo ma dobrą jakość, czy nie są widoczne piksele.
Ze względu na dynamiczny rozwój technologii AI rozpoznanie deepfake’ów może stać się w przyszłości bardzo trudnym zadaniem. Jednakże warto podejmować działania, które minimalizują ryzyko wpadnięcia w pułapkę manipulacji i fałszu. Niezastąpiona w tej kwestii jest edukacja w zakresie stosowanych technologii do tworzenia deepfake’ów, weryfikacja pochodzenia danych materiałów, a także ostrożność w ich odbiorze.
Wnioski
Niewątpliwie technologia deepfake ma potencjał w kwestii zastosowania – można ją w sposób kreatywny wykorzystywać na przykład w filmie. Przykładem są efekty specjalne czy odtworzenie – za zgodą aktora – jego wizerunku (np. odmłodzenie lub postarzenie postaci).
Zagrożenie przychodzi z innej strony – przy próbach wykorzystania deepfake’ów do niewłaściwych celów, chociażby manipulacji wypowiedzią. Takie działanie prowadzi do dezinformacji, co może skutkować spadkiem zaufania wobec mediów. Ponadto w znacznym stopniu narusza prywatność i prawa danej osoby. Dlatego tak ważną rolę odgrywa rozwój metod wykrywania deepfake’ów oraz nieustanna edukacja w zakresie krytycznego odbioru treści internetowych.
Autor tekstu: Małgorzata Dziekan
Absolwentka filozofii, miłośniczka przyrody i górskich wędrówek. Zainteresowana literaturą i historią, a także szeroko rozumianą sztuczną inteligencją. Ceni dobrą książkę oraz chwile spędzane blisko natury. Swoje pasje łączy z pisaniem artykułów o różnorodnej tematyce, dzięki czemu nieustannie poszerza horyzonty.
Bądź pierwszą osobą, która zostawi swój komentarz