Even though they’re presented as helpful or labor-saving, the AIs behind these ‘unseens’ represent large corporations or government agencies, collecting our data, analyzing us and making hugely consequential decisions about our welfare. In the past, human beings were responsible for making these decisions. Today, it’s computer algorithms that rigidly prioritize process, rules and procedure, often without human oversight or judgement. These systems can unintentionally employ highly <a id="a1">biased algorithms</a> and flawed data sets. And this all happens without us having any legitimate way to appeal or object.
A pesar de que son presentadas como recursos útiles o que ahorran trabajo, las IA detrás de estos 'invisibles' representan a grandes corporaciones o agencias gubernamentales, que recopilan nuestros datos, nos analizan y toman decisiones de enorme trascendencia para nuestro bienestar. En el pasado, eran las personas las responsables de tomar esas decisiones. Hoy, son los algoritmos informáticos los que priorizan rígidamente los procesos, reglas y procedimientos, a menudo sin una supervisión o juicio humanos. Estos sistemas pueden emplear involuntariamente <a id="a1">algoritmos altamente sesgados</a> y sets de datos defectuosos. Y todo esto sucede sin que tengamos ningún medio legítimo de apelar u objetar.