Even though they’re presented as helpful or labor-saving, the AIs behind these ‘unseens’ represent large corporations or government agencies, collecting our data, analyzing us and making hugely consequential decisions about our welfare. In the past, human beings were responsible for making these decisions. Today, it’s computer algorithms that rigidly prioritize process, rules and procedure, often without human oversight or judgement. These systems can unintentionally employ highly <a id="a1">biased algorithms</a> and flawed data sets. And this all happens without us having any legitimate way to appeal or object.
Même si elles sont présentées comme utiles ou facilitant le travail, les IA derrière ces « invisibles » représentent de grandes entreprises ou des agences gouvernementales, collectant nos données, nous analysant et prenant des décisions extrêmement importantes concernant notre bien-être. Dans le passé, des êtres humains prenaient ces décisions. Aujourd’hui, ce sont les algorithmes informatiques qui gèrent de manière rigide les processus, les règles et les procédures, souvent sans surveillance ni jugement humain. Ces systèmes peuvent involontairement avoir recours à <a id="a1">des algorithmes fortement biaisés</a> et des ensembles de données incorrectes. Et tout cela sans que nous ayons aucun moyen légitime de faire appel ou d’objecter.