Fałszywy Nawrocki obiecuje 40 tys. zł. Deepfake, który nabierze każdego
W polskim internecie pojawiła się kolejna fala reklam, w których – jak sugerują twórcy – prezydent Karol Nawrocki zachęca obywateli do skorzystania z „legalnego systemu inwestycyjnego”, który ma rzekomo gwarantować nawet 40 tysięcy złotych dodatkowego dochodu. Twarz i głos prezydenta są łudząco podobne do prawdziwych, choć wprawne oko dostrzeże nienaturalne ruchy i drobne deformacje.
To jednak wystarczy, by wielu odbiorców kliknęło w link prowadzący do fałszywej strony, która obiecuje szybkie pomnożenie pieniędzy.
AI na usługach oszustów
To kolejny przykład wykorzystania deepfake’u – wideo stworzonego przez sztuczną inteligencję – do podszywania się pod osoby publiczne. W tym przypadku oszuści stylizowali nagranie tak, by odbiorca miał wrażenie, że ogląda fragment rozmowy prezydenta z Żurnalistą. Po kliknięciu następuje przekierowanie na fałszywą stronę, na której trzeba podać swoje dane.
– To podręcznikowy przykład wykorzystania sztucznej inteligencji do wprowadzenia ludzi w błąd – mówi w rozmowie z portalem Goniec.pl Michał Giziński z Krajowego Instytutu Cyberbezpieczeństwa.
– Wykorzystuje się wizerunek i dobre zdanie o osobie publicznej po to, by namówić odbiorców do inwestowania w fałszywe produkty. Część osób po prostu się na to nabiera.
Ekspert zwraca uwagę, że jeszcze niedawno naśladowanie głosu i mimiki znanej osoby wymagało zaawansowanych umiejętności i kosztownych narzędzi. Teraz – wraz z upowszechnieniem generatywnej AI – tworzenie takich materiałów stało się znacznie prostsze i tańsze.
– Kiedyś nie dało się łatwo podrobić głosu prezydenta czy celebryty. Dziś to możliwe i część widzów nie potrafi tego odróżnić. Oszuści korzystają z tego, że osoba zaufania publicznego budzi automatyczne przekonanie, że polecana rzecz jest prawdziwa – dodaje Giziński.
„Dlaczego wy to reklamujecie?”. YouTube przepuszcza deepfake’i
Co szczególnie niepokojące, reklama podszywająca się pod wypowiedź prezydenta dosłownie zalała polski YouTube. Widzowie w komentarzach zaczęli pytać twórców, dlaczego „promują podejrzane inwestycje”.
– Ludzie nie rozumieją, jak działają reklamy. My nie mamy wpływu na to, co platforma dobuduje do naszego filmu – tłumaczy jedna z osób zgłaszających problem.
Czy YouTube ma mechanizmy, które mogłyby takie treści wychwycić? Według Gizińskiego – nie zawsze.
– Platformy usuwają materiały ewidentnie zakazane – np. przemoc czy treści seksualne. Ale jeśli coś wygląda jak zwykła reklama albo fragment wywiadu, algorytmy mogą tego nie rozpoznać. Deepfake właśnie na tym żeruje: wygląda naturalnie, a jednocześnie jest manipulacją – wyjaśnia ekspert.
Rosnący problem: coraz trudniej odróżnić fałsz od prawdy
Deepfake’i w Polsce pojawiają się coraz częściej – zarówno w celu wyłudzania pieniędzy, jak i w kampaniach dezinformacyjnych. Nic nie wskazuje, by trend miał się odwrócić.
Giziński podkreśla, że choć technologia generatywna nie jest jeszcze idealna, odbiorcy powinni zachować czujność:
– Jeżeli coś wygląda nienaturalnie albo zbyt pięknie, by było prawdziwe – powinna nam się zapalić lampka. Jeżeli ktoś obiecuje niewiarygodne zyski, tym bardziej.
Najważniejszym narzędziem obrony pozostaje weryfikacja informacji.
– Nie opierajmy się na jednym źródle. Jeśli coś słyszymy czy widzimy po raz pierwszy, sprawdźmy, czy ta informacja powtarza się także w innych miejscach. To może uchronić przed stratą pieniędzy – mówi ekspert.
Komentarz Pałacu Prezydenckiego
W wiadomości przesłanej do naszej redakcji przez Kancelarię Prezydenta Rzeczpospolitej Polskiej czytamy:
Szanowna Pani Redaktor,
reklama, o której Pani pisze, jest fałszywa i stanowi przykład bezprawnego wykorzystania wizerunku Prezydenta RP Karola Nawrockiego przy użyciu technologii deepfake.
Prezydent nie promuje żadnych inwestycji, produktów finansowych ani „gwarantowanych zysków”, a tym bardziej nie składa publicznych obietnic rzekomego „dodatkowego dochodu” w reklamach internetowych. Treści tego typu są elementem kampanii oszustw reklamowych, tworzonych przez podmioty trzecie bez wiedzy i zgody osób, których wizerunek został wykorzystany.
Apelujemy do użytkowników Internetu o szczególną ostrożność. Reklamy obiecujące szybkie i pewne zyski, wykorzystujące wizerunki osób publicznych, są klasyczną formą wyłudzeń i nie powinny być traktowane jako wiarygodne źródło informacji.
Każdorazowo warto:
- weryfikować takie treści w oficjalnych komunikatach Kancelarii Prezydenta,
- zgłaszać je bezpośrednio na platformach reklamowych,
- nie podejmować żadnych działań finansowych na ich podstawie.
Informujemy również, że konta w mediach społecznościowych, które rozpowszechniają nieprawdziwe informacje o Panu Prezydencie, wprowadzając w błąd użytkowników tych portali, są przez pracowników Kancelarii Prezydenta RP na bieżąco zgłaszane do administratorów portali, a także do odpowiednich podmiotów przeciwdziałających dezinformacji.
Źródło: Goniec
Obserwuj w Google News
