Od kilku miesięcy wygenerowani przez sztuczną inteligencję celebryci zachęcają do fałszywych oszustw. Problem pojawił się jakiś czas temu, ale nasilił w ostatnich tygodniach. NASK informuje, że rośnie liczba przekrętów wykorzystujących wizerunki znanych osób. Łatwo się dać nabrać, bo momentami brzmi to niemal tak, jak prawdziwa wypowiedź.
Od początku maja pojawiło się w serwisach społecznościowych wiele nowych oszustw typu deepfake. Przestępcy bezprawnie wykorzystali w nich wizerunki i podrobili głosy m.in. prezydenta Andrzeja Dudy, ministry zdrowia Izabeli Leszczyny, piłkarza Roberta Lewandowskiego, influencera Kamila Labuddy (Buddy) i biznesmena Rafała Brzoski, prezesa InPostu – wylicza NASK.
- Technologie umożliwiają obecnie przestępcom łatwe manipulacje materiałami audiowizualnymi. W przypadku technologii typu „text-to-speech”, wystarczy im zaledwie kilka sekund nagranego głosu, aby stworzyć nowy podkład dźwiękowy, który może być zsynchronizowany z materiałem wideo, na przykład z dowolnego przemówienia czy wiecu politycznego. Dla technologii „speech-to-speech”, w której intonacja, emocje zawarte w głosie są bardziej złożone, do wykonania podróbki potrzebny jest dłuższy fragment, około jednej minuty oryginalnego materiału – wyjaśnia Ewelina Bartuzi-Trokielewicz, kierująca w NASK Zespołem Analizy Deepfake.
Dodatkowej wiarygodności dodaje tło.
Oszuści wykorzystują szablon programów informacyjnych, co sugeruje, że nagranie pochodzi z rozmowy wyemitowanej wcześniej w telewizji
Eksperci z NASK zauważają, że fałszywe nagranie momentami łatwo rozpoznać. Pojawiają się zniekształcenia obrazu, ruchy postaci są nienaturalne, psuje się głos. Ale i oszuści zdają sobie sprawę z niedoskonałości.
Stosują też technikę dodawania szumów i różnego rodzaju plam na nagraniach, co ma na celu zakłócenie klarowności przekazu obrazu, ukrycie artefaktów generowanych przez sztuczną inteligencję oraz dezorientację algorytmów automatycznej detekcji deepfake'ów
– tłumaczy Ewelina Bartuzi-Trokielewicz.
Jak się chronić? Podobnie jak w przypadku fałszywych reklam, wiadomości czy SMS-ów – dokładnie weryfikować treści. Jeśli Robert Lewandowski zachęca do inwestycji, sprawdźmy, czy robi to na swoich oficjalnych stronach. Jeżeli program emitowany był w dużej stacji poszukajmy potwierdzenia, że wywiad się odbył. Wówczas zobaczymy, że nic takiego nie miało miejsca. A gdyby nawet, to zobaczmy go w oryginalnej wersji.
Facebook nie radzi sobie z fałszywymi reklamami
Eksperci z NASK dostrzegli to samo, co my – Facebook nic nie robi ze szkodliwymi treściami, przez które użytkownicy tracą pieniądze. Kiedy wyświetlała się fałszywa reklama z udziałem Rafała Brzoski, mimo zgłoszenia sprawy administratorom Mety, nawet „stanowcze protesty polskiego biznesmena nie spowodowały reakcji serwisu przez wiele dni”.
Na Spider's Web informujemy o próbach oszustwa w internecie: