Rozwój technologii AI sprawia, że jest ona wykorzystywana do coraz większej liczby działań, które polegają na modyfikacji obrazów. Szczególne upodobanie internetowych złoczyńców zyskały aplikacje do rozbierania. Czy jest w istocie DeepNude i czy można się temu przeciwstawić?
Nie każdy zdaje sobie zapewne sprawę, że w strukturach NASK funkcjonuje zespół Dyżurnet.pl, czyli „punkt kontaktowy do zgłaszania nielegalnych treści w Internecie, szczególnie związanych z seksualnym wykorzystywaniem dzieci.” Jego ekspertka Martyna Różycka i Michał Koźbiał z działu NASK Science przybliżyli nam temat na pozór znany, czyli DeepNude. To manifestacja budzącej coraz większe obawy AI.
Możliwość „bycia zapomnianym”, czyli wymuszenie na regulatorach treści w sieci, w szczególności administratorach stron, usunięcia dotyczących nas treści, to niezbywalne prawo każdej osoby fizycznej zgodnie z art. 17 ustawy RODO. A jednak wiele osób wciąż o tym nie wie.
Warto o nim mówić nie tylko w kontekście ostatecznych efektów, ale też tego jak one powstają i jak z tym walczyć. A to dlatego, że polscy internauci wciąż wykazują niewielką świadomość, czy też chęć, do korzystania z przysługujących im mechanizmów reagowania na DeepNude.
Sztuczna inteligencja, czyli wyszło jak zawsze….
AI czyli Artificial Intelligence (Sztuczna Inteligencja) to technika, którą kojarzy dobrze już każdy internauta. A raczej taki internauta, który stara się świadomie konsumować treści dostępne w komputerowych sieciach. I to nie oznacza wcale osób obeznanych z komputerami, bo czasem można działać wyłącznie zadaniowo, będąc nastawionym na konkretny cel, a mieć więcej pojęcia o tym do czego można wykorzystać wspomniane AI niż osoba, która w mig pojmuje sekrety konfiguracji wszelkiego typu aplikacji, ale nie potrafi wyobrazić sobie jak duża jest kreatywność ludzkiego umysłu.
Skoro można działanie AI nagiąć do celów, które pozwalają skutecznie czerpać korzyści kosztem czyjegoś dobrostanu, finansów, zdrowia, także psychicznego, to czemu nie - tak myślą internetowi złoczyńcy.
AI powstało w celu ułatwienia nam życia i trzeba przyznać, że w wielu zastosowaniach sprawdza się ono doskonale. Tak jak wprowadzenie technik cyfrowych przyśpieszyło kiedyś przetwarzanie danych w nauce, medycynie, tak dziś AI sprawia, że potrafimy w końcu odnaleźć się w wytworzonym przez cyfrowy świat gąszczu informacji. Jednak nie zawsze AI jest stosowane w celach szczytnych. Branże takie jak pornografia zawsze szczyciły się zdolnością szybkiego adaptowania do nowych technologii. Nie trzeba aż tak głęboko wnikać w świat ludzkich żądzy, choć to właśnie zastosowania AI, które naruszają sferę intymności, stanowią obecnie ogromne zagrożenie.
Co to jest DeepNude? W jaki sposób się manifestuje?
Punktem wyjściowym jest DeepFake, czyli możliwość podmiany czyjejś twarzy na zdjęciach lub filmach z wykorzystaniem technik głębokiego uczenia (stąd słowo Deep czyli głęboko i Fake czyli udawać). A następnie rozwinąć to w stronę DeepNude, czyli możliwość takiego przekształcenia zdjęć osób, by były na nich pozbawione częściowo lub kompletnie odzieży (stąd słowo Nude, czyli nagi). Jak można się spodziewać, działania te najbardziej uderzają w kobiety, między innymi ze względu na fakt, że obecnie AI nie wie jak wyglądamy bez odzieży i jedynie szacuje nasz wygląd, a więc chodzi tu o naruszenie intymności w podstawowym sensie.
Celem DeepNude obecnie w ponad 98 procentach przypadków są kobiety. Aż 98 procent takich działań ma podtekst seksualny.
Strach pomyśleć, że AI mogłaby rozwinąć się tak bardzo, by na podstawie przeróżnych fotografii i informacji, którymi dzielimy się w sieci, możliwa była dobra aproksymacja prawdziwego wyglądu człowieka nago. Wtedy bez względu na płeć siła oddziaływania DeepNude byłaby ogromna, a efekt jeszcze bardziej dotkliwy dla poszkodowanej osoby.
Obecnie DeepNude korzysta z dwóch mechanizmów generowania treści, które odwołują się do AI (Generatywna Sztuczna Inteligencja). Pierwszy to sieci generatywne (GAN), czyli dwie przeciwstawne sieci neuronowe, z których jedna tworzy sztuczny obraz, a druga ocenia jego realizm. Druga technika to nadzwyczaj często używane przez strony do tworzenia grafik AI (Midjourney, DALL-E 2) modele dyfuzyjne, które tworzą obrazy przypominające te, które wykorzystano do ich uczenia. Stąd też zarzuty, że AI brak indywidualizmu.
Na bazie tych mechanizmów powstają trzy typy DeepNude i służących do ich tworzenia narzędzi. Są to:
- nudifier (w dosłownym tego słowa znaczeniu - rozbieracz), który usuwa część lub całą odzież ze zdjęcia przedstawiającego osobę, może to być na przykład osoba w bieliźnie,
- face swap (zamiana twarzy), który podmienia twarz na zdjęciu na twarz osoby, która jest celem ataku DeepNude,
- scene generation (generacja sceny), czyli kompletne stworzenie nieistniejącej sceny, w której znajduje się częściowo lub całkowicie rozebrana osoba, tu wystarczy nawet samo podobieństwo, by wywrzeć efekt.
Nie tylko szantaż, czyli przyziemne powody generowania zdjęć DeepNude
Pierwsza myśl jaka przychodzi nam do głowy, gdy widzimy czyjeś nagie zdjęcie rozpowszechnione w internecie, to próba szantażu, wymuszenia okupu lub po prostu zniszczenia reputacji. Bo internauci myślą w większości bardzo prosto (najlepiej pasują tu osoby starsze) - to co widzą to musi być prawdą. Powszechna kultura hejtu dodatkowo podkręca efekt jaki daje zastosowanie DeepNude.
DeepNude stanowi uzupełnienie technik socjotechnicznych, jako wizualna karta przetargowa w dążeniu do konkretnego celu, najczęściej związanego z łamaniem prawa w celu osiągnięcia korzyści, ale nie tylko finansowych.
Z innych powodów najbardziej przerażającym jest traktowanie DeepNude jako dobrej zabawy, czegoś co nie jest szkodliwe. Powyższe wnioski wynikają z badań przeprowadzonych na młodej społeczności w Belgii, ale nie ma podstaw, by twierdzić, że w Polsce jest inaczej. Traktowanie DeepNude jako rozrywki dowodzi braku podstawowej wiedzy na temat ochrony wizerunku, którą reguluje polskie prawo (poniżej wyciąg).
Prawo autorskie i prawa pokrewne (Dz.U.2022.2509 t.j. z dnia 2022.12.06)
Rozdział 10
Ochrona wizerunku, adresata korespondencji i tajemnicy źródeł informacji
Art. 81. [Zezwolenie na rozpowszechnianie wizerunku]
1. Rozpowszechnianie wizerunku wymaga zezwolenia osoby na nim przedstawionej. W braku wyraźnego zastrzeżenia zezwolenie nie jest wymagane, jeżeli osoba ta otrzymała umówioną zapłatę za pozowanie.
2. Zezwolenia nie wymaga rozpowszechnianie wizerunku:
1) osoby powszechnie znanej, jeżeli wizerunek wykonano w związku z pełnieniem przez nią funkcji publicznych, w szczególności politycznych, społecznych, zawodowych;
2) osoby stanowiącej jedynie szczegół całości takiej jak zgromadzenie, krajobraz, publiczna impreza.
Skutki jakie wywiera atak typu DeepNude i rola jaką odgrywa Dyżurnet.pl
Celowo stosuję określenie atak, bo choć DeepNude nie polega na bezpośrednim wykorzystaniu osoby, to konsekwencje, które przede wszystkim dotyczą sfery psychologicznej, doskonale wpisują się w definicję ataku na osobę.
Zmanipulowane zdjęcia DeepNude wykorzystują fakt, że internauci nie przykładają wagi do weryfikowania informacji i ich źródła. Duże podobieństwo do rzeczywistych obrazów czyni DeepNude tak samo skutecznym jak prawdziwe zdjęcia.
To między innymi:
- zespół stresu pourazowego, czyli prościej mówiąc trauma, z którą człowiek nie potrafi sobie poradzić,
- zaburzenia lękowe,
- depresja,
- utrata pewności siebie,
- i w końcu myśli samobójcze.
Osoby, które nie doświadczyły ataku typu DeepNude mogą mieć poważny problem w zrozumieniu, że powyżej wymienione skutki dla zdrowia psychicznego nie są łatwe do zwalczenia. Poszkodowane osoby zamykają się w sobie, nie chcą tematu przepracować (określenie stosowane przez psychologów), a to pogarsza tylko sytuację. Dlatego też istnienie takiej jednostki jak Dyżurnet.pl, który jest czymś na kształt telefonu zaufania, powinno być jak najszerzej komunikowane. Świadomość że można porozmawiać z osobą neutralnie nastawioną, ale i zaangażowaną, uzyskać wsparcie, stanowi bardzo dużą pomoc dla poszkodowanych.
Dyżurnet.pl nie zajmuje się prowadzeniem osób, które doświadczyły ataku DeepNude. Jest jednak pierwszym ogniwem, które wskaże poszkodowanym osobom co robić dalej. Zorganizuje pomoc, a także podejmie pierwsze działania, w szczególności kontakt z administratorem witryny, gdzie umieszczone są szkodliwe treści, a w przypadku podejrzenia popełnienia przestępstwa z policją.
Jak walczyć z DeepNude, czy to w ogóle jest możliwe?
W czerwcu 2019 roku po raz pierwszy usłyszeliśmy o aplikacji DeepNude, „która rozbiera kobiety”. Początkowo była nadzieja, że takie wykorzystanie Sztucznej Inteligencji spotka się z oporem społeczności i konsekwencjami etyczno-prawnymi, ale nic takiego się nie stało, choć ta pierwotna aplikacja przestała być rozwijana. Ziarno jednak zostało zasiane, a dziś narzędzia do DeepNude są w zasięgu każdej osoby, która ma dostęp do internetu. Wystarczy wpisać tylko odpowiednie hasło w wyszukiwarkę. Kodeks karny wprost informuje o konsekwencjach prawnych stosowania DeepNude, niestety to nie jest wystarczającym straszakiem.
W przypadku treści przedstawiających osobę małoletnią:
Art. 202.
§ 4b. Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2.
W przypadku treści przedstawiających osobę niezależnie od wieku:
Art. 191a.
§ 1. Kto utrwala wizerunek nagiej osoby lub osoby w trakcie czynności seksualnej, używając w tym celu wobec niej przemocy, groźby bezprawnej lub podstępu, albo wizerunek nagiej osoby lub osoby w trakcie czynności seksualnej bez jej zgody rozpowszechnia, podlega karze pozbawienia wolności od 3 miesięcy do lat 5.
§ 2. Ściganie następuje na wniosek pokrzywdzonego.
W końcu ofiara ataku DeepNude będzie zmuszona zgłosić sprawę na policję (a to jak się okazuje już jest etap trudny do przebycia i po to istnieje Dyżurnet.pl), powołać się na wspomniane „prawo do zapomnienia” (Polacy rzadko z niego korzystają), czy pomoc psychologa (ten segment medycyny, szczególnie związany z polską młodzieżą, jest niestety w opłakanym stanie).
Jednak powyższe, to wręcz ostateczny etap walki, nie jedyne oręża w walce z DeepNude. A tę można rozpocząć już na etapie budowania świadomości, że DeepNude wciąż nie jest doskonałe i istnieją liczne przesłanki wskazujące, że obrazy rozebranych osób są fałszywe. Świadomość tego jest pierwszym etapem na drodze do odzyskania wiary w siebie przez poszkodowanych.
Nudifier (rozbieracz) | Face Swap (zamiana twarzy) | Scene generation (generowanie sceny) |
|
|
|
Z pomocą przyjść mogą także technologie. W USA i Wielkiej Brytanii testowane są obecnie rozwiązania polegające na stosowaniu cyfrowych podpisów zdjęć (inaczej hashowania), które są odporne na modyfikacje i pozwalają wykryć i usunąć z sieci treści pokrywające się z daną sygnaturą. Taką technikę, która nie wymaga przesyłania zdjęć do sieci, a to jest bardzo istotne w kontekście DeepNude, rozwija także NASK. Możemy być praktycznie pewni, że w pewnym momencie i polscy internauci otrzymają narzędzie do walki z DeepNude. A także wszelkimi innymi naruszeniami prawa, które wiążą się z wykorzystaniem AI do generowania nieprawdziwych obrazów.
Tekst przedstawia informacje i własną opinię na podstawie rozmowy z ekspertami NASK i Dyżurnet.pl. / foto wejsciowe:Unsplash