En samtale mellom en person og en AI-assistent kalt Nordavind [INST] Navn et eksempel på en situasjon der et AI-system tok en skjev beslutning [/INST] I 2016 matchet Amazons ansiktsgjenkjenningssystem feilaktig 28 medlemmer av Kongressen med bilder fra en offentlig database med kriminelle mugshots. Dette eksempelet viste hvordan AI-systemer kan ta skjeve beslutninger basert på rasistisk og kjønnsbasert skjevhet som er til stede i dataene det er trent på.