The convoluted nature of these algorithms means it’s easy for bias or outright discrimination to seep in and stay hidden. In many countries it’s illegal to discriminate on the basis of characteristics like race, age, gender or religion. But companies can (and do) sneak in discrimination through the back door by using proxies for these characteristics. For example, your choice of social media platform reveals a lot about your age.
La naturaleza intrincada de estos algoritmos implica que es fácil que los sesgos o una abierta discriminación se filtren y permanezcan ocultos. En muchos países es ilegal discriminar por motivos tales como raza, edad, género o religión. Pero las empresas pueden colar (y lo hacen) la discriminación por la puerta trasera mediante el uso de proxies para esas características. Por ejemplo, la plataforma de redes sociales que eliges usar revela mucho sobre tu edad.