Here are some examples. Take <a id="a1">credit scores</a> — algorithms trained in a biased way may calculate a lower score for a woman compared to a man, which could in turn affect what credit cards they could open or mortgages they could apply for. Another example is <a id="a2">job hiring</a> — recruiters who rely too heavily on software may inadvertently reinforce race and gender-related blindspots. There’s even <a id="a3">car insurance pricing</a> — when opaque algorithms determine who should pay less or more for similar coverage, it offers the opportunity for unfair pricing.
En voici des exemples récents. Prenons l’exemple <a id="a1">des scores de crédit</a> — les algorithmes entraînés de manière biaisée peuvent calculer un score inférieur pour une femme par rapport à un homme, ce qui pourrait à son tour affecter les cartes de crédit qu’elles pourraient obtenir ou les prêts hypothécaires qu’elles pourraient demander. Un autre exemple est <a id="a2">l’embauche</a> — les recruteurs qui s’appuient trop sur les logiciels peuvent renforcer par inadvertance les préjugés racistes ou sexistes. Il y a même une <a id="a3">tarification pour l’assurance automobile</a> — lorsque des algorithmes opaques déterminent qui doit payer moins ou plus pour une couverture similaire, cela donne lieu à une tarification inéquitable.