Sztuczna inteligencja ma rasistowskie zapędy. Naukowcy i twórcy próbują to naprawić
Tego aresztowania można było uniknąć, wystarczyło zaufać ludziom, a nie sztucznej inteligencji. Policja w Detroit użyła programu opartego na AI do rozpoznawania twarzy, który zidentyfikował Porchę Woodruff jako podejrzaną o kradzież auta na podstawie starego zdjęcia z policyjnych kartotek. Kobieta została zatrzymana, potem zwolniona z aresztu. Skąd pomyłka? Okazuje się, że dla sztucznej inteligencji większość ciemnoskórych kobiet wygląda tak samo.
- Błędne rozpoznawanie twarzy przez sztuczną inteligencję doprowadziło do niesłusznego aresztowania czarnoskórej kobiety w Detroit
- Eksperci twierdzą, że uprzedzenia i niedokładność AI względem osób o różnych kolorach skóry mają swoje korzenie w rasistowskich uwarunkowaniach
- Niektórzy twórcy oprogramowania i badacze sztucznej inteligencji próbują to naprawić
- Więcej informacji o biznesie znajdziesz na Businessinsider.com.pl
Życie Porchy Woodruff zaczynało się układać. Matka dwójki dzieci planowała ślub, a w drodze było jej kolejne dziecko.
16 lutego 2023 r. rozległo się pukanie do jej drzwi. Kilku funkcjonariuszy policji z Detroit aresztowało Woodruff w jej domu. Została oskarżona o kradzież samochodu.
— Jedyną rzeczą, o której mogłam pomyśleć w tym momencie, było "Nie chcę stracić syna" — powiedziała Woodruff w wywiadzie dla Business Insidera.
Policja użyła programu sztucznej inteligencji do rozpoznawania twarzy, który zidentyfikował ją jako podejrzaną na podstawie starego zdjęcia. Sprawa została później oddalona, ale aresztowanie Woodruff nadal widnieje w publicznym rejestrze 36. sądu okręgowego stanu Michigan.
Departament Policji w Detroit oświadczył, że ogranicza korzystanie z oprogramowania AI do rozpoznawania twarzy w przypadku przestępstw, a dopasowania są jedynie wskazówkami w dochodzeniu. Zdaniem Woodruff, która pozwała miasto i policję, domagając się odszkodowania, nie jest to wystarczający środek ostrożności.
— Nie powinnam mieć styczności z czymś takim — powiedziała. — To całkowicie zmieniło moje życie — dodała.
Rasa i płeć Woodruff mogły mieć wpływ na niesłuszne aresztowanie. — Nie wierzę, że to przydarzyłoby się białej kobiecie — powiedział Ivan Land, adwokat Woodruff.
Dokonywanie osądów
Sztuczna inteligencja, taka jak ta używana przez Departament Policji w Detroit, została zaprojektowana do identyfikowania określonych kształtów twarzy na podstawie dużych zbiorów zdjęć. Jest to jeden z wielu rodzajów sztucznej inteligencji używanych na całym świecie. I jest wadliwy.
Badanie przeprowadzone w 2018 r. przez badaczy AI Joy Buolamwini i Timnit Gebru, którzy ocenili narzędzia do rozpoznawania twarzy oferowane przez Microsoft, IBM i Face++, wykazało, że ciemnoskóre kobiety były najczęściej błędnie identyfikowane przez technologię rozpoznawania twarzy, z odsetkiem pomyłek wynoszącym 35 proc.
Sześć lat później sztuczna inteligencja nadal popełnia niepokojące błędy, na przykład nieprawidłowo identyfikuje osoby o ciemniejszej karnacji i wykazuje uprzedzenia w obliczu języka kojarzonego z osobami o innym niż biały kolorze skóry.
Badanie opublikowane w marcu, którego współautorem był Valentin Hofmann, badacz z Allen Institute for AI, wykazało, że gdy afroamerykański angielski był używany do wydawania poleceń AI, w tym GPT-4 OpenAI i T5 Google, odpowiedzi "odzwierciedlały ukryty rasizm w postaci uprzedzeń dialektalnych".
W badaniu poproszono modele AI o wydanie wyroku w hipotetycznych sprawach karnych, w których jedynym dowodem była wypowiedź oskarżonego w slangu lub standardowym amerykańskim angielskim. W przypadku użycia slangu, modele z większym prawdopodobieństwem orzekły, że oskarżeni powinni zostać skazani.
Badanie wykazało również, że w hipotetycznym procesie o morderstwo modele AI częściej proponowały karę śmierci dla osoby posługującej się slangiem.
Świeża propozycja
Jednym z powodów tych niepowodzeń jest to, że ludzie i firmy tworzące sztuczną inteligencję nie są reprezentatywne dla świata, który modele AI mają obejmować.
W sierpniu 1955 r. propozycja nowego kierunku studiów w Dartmouth College przewidywała, że inteligencja może być sztuczna. Ośmiu naukowców, z których wszyscy byli białymi mężczyznami, postanowiło zbadać, w jaki sposób maszyny mogłyby rozumować w oparciu o połączenie utworzone na podstawie danych, które były im dostarczane, regulowane przez zestawy reguł.
Prawie 70 lat później, programy edukacyjne z zakresu informatyki nadal wykazują nadwyżkę białych mężczyzn.
National Center for Education Statistics podało, że w 1991 r. biali studenci uzyskali ponad 70 proc. tytułów licencjata w dziedzinie informatyki, podczas gdy czarnoskórzy studenci uzyskali ich ok. 8 proc.
W 2022 r., ostatnim zbadanym roku, biali studenci uzyskali około 46 proc. tytułów licencjata w dziedzinie informatyki, w porównaniu z około 9 proc. w przypadku czarnoskórych studentów. Studenci azjatyccy osiągnęli największy wzrost w tym okresie, przechodząc od około 8 proc. stopni naukowych do ponad 19 proc.
Firmy Big Tech, które przodują w rozwoju sztucznej inteligencji, również nie są szczególnie zróżnicowane, pomimo wieloletnich wysiłków na rzecz poprawy tej sytuacji. W 2023 r. 13,6 proc. populacji USA identyfikowało się jako czarnoskórzy lub Afroamerykanie. Z kolei w raporcie DEI Microsoftu z 2023 r. odnotowano, że 6,7 proc. pracowników firmy było czarnoskórych.
Ograniczenia dostępności danych
W latach 90-tych Geoffrey Hinton był pionierem sieci neuronowych głębokiego uczenia, wzorowanych luźno na ludzkim mózgu. Sieci są konfigurowane według przypadku użycia (na przykład do rozpoznawania twarzy) i muszą zostać przeszkolone w zakresie dopasowywania wzorców lub wnioskowania. Aby uzyskać dobre wyniki, modele te potrzebują dużej liczby danych.
— Modele nie mają wystarczającej ilości danych na temat osób czarnoskórych. One nie istnieją — powiedział portalowi Business Insider Christopher Lafayette, założyciel GatherVerse, forum technologicznego i firmy organizującej wydarzenia.
Oji Udezue, dyrektor ds. produktu w Typeform, firmie zajmującej się oprogramowaniem do ankiet, powiedział, że ograniczona dostępność danych może zwiększyć nierówności.
Dostęp do Internetu w Afryce i Azji Południowo-Wschodniej rozwijał się znacznie wolniej niż w Ameryce Północnej i Europie. Dane online, podstawa większości modeli sztucznej inteligencji, są w większości białe i zachodnie.
— Zbiory danych z południowej półkuli nie są dostępne online, nie można ich indeksować ani integrować — powiedział Udezue.
Wydajność wczesnych narzędzi do rozpoznawania twarzy była często mierzona za pomocą testu porównawczego opartego na ponad 13 tys. obrazów. Prawie 84 proc. osób na zdjęciach zostało oznaczonych jako białe.
Nowa książka Buolamwini, "Unmasking AI", podaje, że przez lata właśnie to było standardem w sposobie, w jaki firmy, w tym Meta, Google i Microsoft, oceniały dokładność swoich narzędzi do rozpoznawania twarzy.
Sztuczna inteligencja została w dużej mierze opracowana przez białych badaczy i wyszkolona na zachodniej literaturze i obrazach. Być może nie powinno dziwić, że modele te generują odpowiedzi, którym brakuje zrozumienia kulturowego i oferują gorsze wyniki w identyfikacji ciemnoskórych kobiet.
Firmy technologiczne przyznały się do niektórych z tych problemów. OpenAI opisało uprzedzenia w swoich narzędziach jako "błędy, a nie cechy" i stwierdziło, że "pracuje nad udostępnieniem zagregowanych informacji demograficznych" o osobach, które recenzują jego modele AI.
Firmy czasami przesadzały z korektą. Na przykład Gemini firmy Google tworzył obrazy osób kolorowych w historycznie niedokładnych kontekstach.
Twórcy AI opracowują alternatywy dla oferty głównego nurtu. W maju 2023 r. John Pasmore założył Latimer, duży model językowy, który wykorzystuje GPT-3.5 do swoich podstawowych możliwości. Zanim Latimer odpowie użytkownikom, pobiera informacje ze swojego zasobu różnorodnych kulturowo danych w procesie znanym jako generowanie z rozszerzonym wyszukiwaniem, aby dać użytkownikom bardziej zniuansowane odpowiedzi.
Wykluczanie wykluczenia
W obliczu dynamicznego rozwoju sztucznej inteligencji niektórzy badacze i dyrektorzy starają się wpleść w tę technologię różnorodne dane i bardziej sprawiedliwe podejście.
— Możemy wykorzystać sztuczną inteligencję do przezwyciężenia ludzkich uprzedzeń — powiedziała Buolamwini. — Jeśli nie zwracamy uwagi na różnice i nie jesteśmy celowo nastawieni na integrację, mamy tendencję do cofania już poczynionych postępów — dodała.
Oduczenie się nawyku wykluczania nie jest łatwe. Maszyny stworzone na podobieństwo swoich twórców dziedziczą dziwactwa, specyfikę i uprzedzenia tych ludzi, bez względu na to, jak dobre mogą mieć intencje.
— Niezależnie od tego, czy jest to świadome, czy nieświadome, uważam, że jest to bardziej cecha niż błąd — powiedział BI Timothy Bardlavens, dyrektor ds. kapitału produktowego w Adobe.
Bardlavens kieruje zespołem, którego celem jest zadbanie o to, by sprawiedliwe traktowanie było brane pod uwagę i uwzględniane w narzędziach Adobe AI. Na przykład generator obrazów Firefly został zaprojektowany tak, aby unikać stereotypów w przedstawianiu grup takich jak kobiety i osoby kolorowe.
Kiedy Firefly został poproszony o stworzenie obrazów lekarza leczącego dzieci w Afryce, stworzył obrazy czarnoskórych lekarzy płci męskiej i żeńskiej.
Bardlavens powiedział, że niewiele firm opracowuje technologię poprzez współtworzenie, które obejmuje uzyskiwanie wkładu od osób spoza firm zajmujących się sztuczną inteligencją w celu włączenia ich doświadczeń do rozwoju produktu.
Bardlavens dodał, że bez tego "traci się wartość posiadania opinii społeczności na temat ich doświadczeń". — Niemożliwe jest zbudowanie technologii, która w jakiś sposób nie wzmacnia przekonań twórcy — ocenił.
Większy nacisk na to, kto tworzy modele sztucznej inteligencji i na dane, na których są one szkolone, daje coraz większe możliwości integracji.
Esther Dyson została pierwszą inwestorką Latimer, ponieważ dostrzegła potencjał startupu w rozwiązaniu niepokojącej tendencji sztucznej inteligencji do ignorowania historii i kultury czarnoskórych.
— Sztuczna inteligencja nie rozwiąże wszystkich tych problemów, ale zrobi to, o co ją poprosimy. Skorzystaj z Latimera, poproś go o znalezienie historii, która została ukryta — powiedziała Dyson w wywiadzie dla BI. — Wartość sztucznej inteligencji nie tkwi w poszczególnych elementach, ale w brzegach i relacjach między rodzajami danych — dodała.
Argumentowała, że firmy, które priorytetowo traktują szkolenie swoich modeli na najlepszych, najbardziej reprezentatywnych danych, ostatecznie odniosą największy sukces.
Wysiłki firmy Alza
Arturo Villanueva wspomina, jak w wieku 9 lat służył jako pośrednik między swoimi rodzicami a amerykańskim systemem bankowym.
— Dzwoniłem do banku, rozmawiałem z nimi po angielsku, a następnie rozmawiałem z rodzicami po hiszpańsku, a potem miałem kłopoty, ponieważ nie byłem w stanie przetłumaczyć słów takich jak "hipoteka" lub "oprocentowanie" — powiedział. — A ja na to: "Mam tylko 9 lat, jak mam to zrobić?" — mówił.
Villanueva jest założycielem i dyrektorem generalnym Alza, fintechu, który wykorzystuje techniki sztucznej inteligencji, takie jak wizualizacja komputerowa i uczenie maszynowe, aby pomóc Latynosom i innym osobom mówiącym po hiszpańsku w lepszym dostępie do usług finansowych, takich jak rachunki oszczędnościowo-rozliczeniowe i płatności transgraniczne.
Konsumenci ci czasami mają krótszą historię kredytową lub dokumenty identyfikacyjne, które banki uważają za nietypowe.
Narzędzia bankowe Alza oparte na sztucznej inteligencji zostały zaprojektowane z myślą o interakcji z ludźmi, którzy mówią wieloma potocznymi dialektami języka hiszpańskiego i lepiej dostosowują się do rodzajów dokumentów aplikacyjnych, z którymi tradycyjne banki mogą mieć trudności, takich jak dokumenty tożsamości wydane przez niektóre kraje Ameryki Łacińskiej.
Mimo to Alza ostrożnie korzysta ze sztucznej inteligencji, pamiętając o trudnych początkach tej technologii.
— Ostrożnie wkraczamy w korzystanie ze sztucznej inteligencji — powiedział Andrew Mahon, szef inżynierii Alza. — Zbyt szybkie wejście w sztuczną inteligencję wiąże się z ryzykiem wdrożenia tendencyjnego modelu, który może błędnie interpretować nasze dane — dodał.
28 lutego Axel Springer, spółka macierzysta Business Insider, dołączyła do 31 innych grup medialnych i złożyła pozew o wartości 2 mld 300 mln dol. przeciwko Google w holenderskim sądzie, zarzucając straty poniesione z powodu praktyk reklamowych firmy.
Axel Springer, spółka macierzysta Business Insider, zawarła globalną umowę umożliwiającą OpenAI szkolenie swoich modeli na podstawie materiałów jej mediów.
Tekst jest tłumaczeniem z amerykańskiego wydania Business Insider. Tłumaczenie: Mateusz Albin