Nel 2016, il software di riconoscimento facciale di Amazon ha abbinato erroneamente 28 membri del Congresso con le immagini di un database pubblico di foto segnaletiche criminali. Questo esempio ha evidenziato come i sistemi di intelligenza artificiale possano prendere decisioni distorte basate su pregiudizi razziali e di genere che sono presenti nei dati su cui sono addestrati.
Cita un esempio di una situazione in cui un sistema di intelligenza artificiale ha preso una decisione distorta