Nagrania wideo i zdjęcia publikowane w internecie często traktujemy jako dowód, że coś wydarzyło się naprawdę. Problem pojawia się wtedy, gdy obraz wygląda wiarygodnie, ale został wygenerowany przez sztuczną inteligencję. Właśnie w takich sytuacjach pojawia się pojęcie deepfake, które coraz częściej pojawia się w mediach, dyskusjach o bezpieczeństwie i w pracy firm zajmujących się technologią. W tym artykule wyjaśniam, co oznacza to określenie, jak powstają takie materiały i na co zwracać uwagę, gdy trudno ocenić ich autentyczność.
Deepfake co to znaczy i skąd wzięła się ta technologia
Osoby, które pierwszy raz spotykają się z tym określeniem, często wpisują w wyszukiwarkę hasło deepfake co to albo co to deepfake. Nazwa pochodzi z połączenia słów „deep learning” i „fake”, czyli fałszywy materiał stworzony przy użyciu uczenia maszynowego.
Technologia polega na tym, że algorytmy analizują ogromną liczbę zdjęć lub nagrań danej osoby, a następnie potrafią wygenerować nowy obraz, który wygląda jak prawdziwy. W efekcie można stworzyć film, na którym ktoś mówi lub robi coś, czego nigdy nie zrobił. Szerzej o tym przeczytasz w artykule kancelarii JDP.
Największą trudnością w przypadku deepfake polega na tym, że materiał może wyglądać bardzo wiarygodnie nawet dla osoby, która na co dzień korzysta z internetu i zna podstawowe zasady bezpieczeństwa.
Jak powstają materiały typu deepfake
Tworzenie takich nagrań jeszcze kilka lat temu wymagało specjalistycznej wiedzy i mocnych komputerów. Dziś dostęp do narzędzi jest łatwiejszy, dlatego technologia trafia do coraz szerszego grona użytkowników. Nie oznacza to jednak, że każdy materiał powstaje w kilka minut, ponieważ proces nadal wymaga danych i czasu.
Najczęściej tworzenie fałszywego nagrania przebiega w kilku etapach:
- Zebranie dużej liczby zdjęć lub filmów danej osoby.
- Nauczenie algorytmu rozpoznawania twarzy i mimiki.
- Wygenerowanie nowego obrazu na podstawie wybranego nagrania.
- Dopasowanie głosu lub ruchu ust do wypowiedzi.
- Obróbka końcowa, która ma zwiększyć wiarygodność materiału.
Im więcej materiałów źródłowych ma program, tym trudniej odróżnić wygenerowane nagranie od prawdziwego.
Do czego wykorzystuje się deepfake w praktyce
Technologia nie zawsze jest używana w złych celach. W branży filmowej pozwala odtwarzać twarze aktorów, odmładzać postacie albo tworzyć sceny, których nie da się nagrać w rzeczywistości. Zdarza się też, że wykorzystuje się ją w reklamie, edukacji lub projektach artystycznych.
Problemy zaczynają się wtedy, gdy materiały są publikowane bez informacji, że zostały wygenerowane komputerowo. W takich sytuacjach mogą służyć do manipulacji lub wprowadzania odbiorców w błąd.
Najczęstsze zastosowania budzące kontrowersje to:
- fałszywe nagrania z udziałem znanych osób;
- materiały mające wpływać na opinię publiczną;
- podszywanie się pod pracowników firmy;
- tworzenie filmów w celu wyłudzenia pieniędzy;
- przerabianie zdjęć bez zgody osoby widocznej na obrazie.
W ostatnich latach coraz częściej pojawiają się przypadki wykorzystania deepfake w oszustwach finansowych, zwłaszcza w rozmowach telefonicznych i wideokonferencjach.
Jak rozpoznać deepfake – sygnały, które mogą wzbudzić wątpliwości
Nie zawsze da się od razu zauważyć, że nagranie zostało wygenerowane przez komputer. Mimo to wiele materiałów zawiera drobne błędy, które mogą zwrócić uwagę. Warto zachować ostrożność szczególnie wtedy, gdy film wywołuje silne emocje albo dotyczy znanej osoby.
Podczas oglądania nagrania dobrze jest zwrócić uwagę na kilka elementów:
- nienaturalne ruchy ust lub oczu;
- rozmazane fragmenty twarzy;
- niespójne oświetlenie;
- dziwne przerwy w dźwięku;
- brak wiarygodnego źródła nagrania.
Jeśli materiał wygląda podejrzanie, warto sprawdzić go w kilku źródłach, ponieważ wiele fałszywych nagrań pojawia się najpierw w mediach społecznościowych, a dopiero później trafia do portali informacyjnych.
Dlaczego temat deepfake staje się coraz ważniejszy
Rozwój sztucznej inteligencji sprawia, że granica między prawdziwym nagraniem a wygenerowanym obrazem staje się coraz mniej widoczna. Z tego powodu instytucje publiczne, firmy i media zaczynają zwracać większą uwagę na weryfikowanie materiałów.
Zmiany dotyczą również zwykłych użytkowników internetu. Coraz częściej pojawia się potrzeba sprawdzania, czy zdjęcie lub film nie zostały zmienione przy użyciu algorytmów. Dotyczy to szczególnie sytuacji, gdy materiał ma wpływ na decyzje finansowe, zawodowe lub wizerunkowe.
Świadomość tego, czym jest deepfake i jak działa ta technologia, pozwala spokojniej oceniać treści publikowane w sieci. Dzięki temu łatwiej uniknąć pochopnych reakcji i ograniczyć ryzyko, że fałszywy materiał zostanie potraktowany jako prawdziwy.