It would be very easy for us to head in the wrong direction. As we have rushed to build data collection and automation into nearly everything, we have already seen the potential of AI to reinforce long-standing biases or to point us toward dangerous content. And there’s little transparency or accountability when an AI system spreads misinformation or misidentifies a face. Also, as people, we rarely have agency over what happens with our data or the automated decisions that it drives. If these trends continue, we’re likely to end up in a dystopian AI-driven world that deepens the gap between those with vast power and those without.
Tomar la dirección equivocada es mucho más fácil de lo que pensamos. Puesto que nos hemos apresurado a integrar la automatización y recopilación de datos en casi todo lo que hacemos, ya podemos percibir el potencial que tiene la IA para reforzar los sesgos ya establecidos o para dirigirnos a contenidos peligrosos. Y sabemos que hay poca transparencia o rendición de cuentas cuando un sistema de IA difunde noticias falsas o identifica erróneamente un rostro. Además, como individuos, rara vez tenemos autoridad sobre lo que sucede con nuestros datos o con las decisiones automatizadas que generan. Si estas tendencias continúan, es probable que acabemos viviendo en un mundo distópico dominado por la IA, que profundizará la brecha entre quienes tienen un poder inmenso y quienes carecen de él.