Rozporządzenie AI Act klasyfikuje sztuczną inteligencję pod kątem potencjalnego ryzyka dla użytkowników, dzieląc tę technologię na cztery kategorie: oprogramowanie wysokiego ryzyka, ograniczonego i minimalnego wpływu oraz systemy nieakceptowalne. Te ostatnie zostaną w Unii Europejskiej zakazane.
AI Act. Unijny akt normatywny o sztucznej inteligencji
Modele, które nie stanowią ryzyka systemowego, takie jak chatboty czy gry, będą podlegały minimalnym wymaganiom, głównie związanym z przejrzystością. Chodzi o to, aby użytkownicy byli świadomi, że korzystają z technologii sztucznej inteligencji. Dodatkowe wymogi bezpieczeństwa zostaną nałożone na zmanipulowane treści, tzw. deepfakes, czyli materiały generowane przez AI w celu wprowadzenia użytkowników w błąd. Te treści również będą musiały być wyraźnie oznaczone.
Systemy wysokiego ryzyka
Jeśli chodzi zaś o systemy sklasyfikowane jako wysoce ryzykowne, np. technologie wykorzystywane w oświacie, jak systemy sztucznej inteligencji analizujące podania studentów o stypendia czy przyjęcie na studia, będą dopuszczane na rynek unijny wyłącznie pod warunkiem spełnienia surowych wymogów.
W praktyce oznacza to, że producenci zostaną zobowiązani do oceny ich ryzyka przed wprowadzeniem na rynek Unii Europejskiej. Osobom, które będą uważały się za poszkodowane decyzjami podjętymi przez AI – np. student nie otrzyma stypendium – będzie przysługiwało prawo zaskarżenia zapadłej decyzji.
Oznacza to, że producenci bedą musieli ocenić ich ryzyko jeszcze przed wprowadzeniem na unijny rynek, a obywatele – np. studenci, kórzy nie dostaną świadczenia – będą mieli prawo do zaskarżenia decyzji podjętych z użyciem AI.
Co będzie zakazane?
Niedopuszczalne będą technologie umożliwiające np. na monitorowanie i szpiegowanie ludzi oraz co ciekawe, wykorzystywanie ich danych uznanych za wrażliwe, takich jak orientacja seksualna, pochodzenie lub wyznanie, do przewidywania ich zachowań, w tym do tzw. prognozowania kryminologicznego, a więc analizowania ryzyka popełnienia przez nich przestępstw, lub do podsuwania im treści mogących wpłynąć na ich decyzje i zachowanie.
Zabronione będzie także stosowanie charakterystycznych dla systemów totalitarnych systemów punktowania społecznego, które oceniają obywateli na podstawie ich zachowań społecznych. Tego typu technologie są wykorzystywane w Chinach. Zakaz obejmie również systemy monitorujące emocje ludzi w miejscach pracy, urzędach, szkołach oraz na uczelniach, które czasami są używane do przewidywania strajków i niepokojów społecznych.
Kolejne wyłączenie dotyczy śledzenia obywateli lub pobierania wizerunków ich twarzy z internetu lub monitoringu miejskiego, by stworzyć bazy danych służące rozpoznawaniu twarzy. Dopuszczono jedynie nieliczne wyjątki. Otóż do systemów rozpoznawania twarzy pod pewnymi warunkami (np. przy poszukiwaniu osób podejrzanych o terroryzm) będą uprawnione właściwe służby. Wcześniej zgodę w tym zakresie będzie jednak musiał wyrazić sąd lub odpowiedni urząd.