The convoluted nature of these algorithms means it’s easy for bias or outright discrimination to seep in and stay hidden. In many countries it’s illegal to discriminate on the basis of characteristics like race, age, gender or religion. But companies can (and do) sneak in discrimination through the back door by using proxies for these characteristics. For example, your choice of social media platform reveals a lot about your age.
La nature alambiquée de ces algorithmes fait qu’il est facile pour les préjugés ou la discrimination pure et simple de s’infiltrer et de rester cachés. Dans de nombreux pays, il est illégal de discriminer sur la base de caractéristiques telles que la race, l’âge, le sexe ou la religion. Mais les entreprises peuvent (et font) de la discrimination par des moyens détournés en utilisant des substituts pour ces caractéristiques. Par exemple, votre choix de plateforme de réseaux sociaux en dit long sur votre âge.