De un tiempo para acá, el mundo parece haber entrado a una especie de escenario de ciencia ficción. La inteligencia artificial se ha posicionado como una herramienta poderosa. Nos aceleramos, ahora nos desempeñamos más rápido en la mayoría de campos profesionales y personales. Usamos inteligencia artificial desde la atención médica hasta la logística y el entretenimiento.
El desafío que nos imponen las máquinas es que incluso en el terreno estético, son capaces de producir lo que antes creíamos era del exclusivo ámbito humano. Pintan, escriben, componen música, elaboran rúbricas, evalúan. Sin embargo, junto con sus promesas, la inteligencia artificial también presenta una serie de desafíos y errores potenciales que deben abordarse de manera proactiva para garantizar su uso responsable y ético.
El entusiasmo generado por la inteligencia artificial nos ha hecho caer, en forma ingenua, en errores comunes y llevados a un extremo en fallas a consideraciones éticas que deben tenerse en cuenta. El principal cuestionamiento es si la inteligencia artificial fertiliza el campo de la ignorancia. Mientras más confiamos en lo que nos hace una máquina, más aumenta nuestra dependencia y disminuye nuestra capacidad de aprendizaje. Hay una lógica ahí que merece la pena ser explorada. Desde luego, la inteligencia artificial llegó para quedarse, entonces hay que reflexionar en torno a sus usos, previniéndonos de cometer errores graves.
1- El primer error es no entender en su justa dimensión qué es y para qué sirve la inteligencia artificial. Fallamos al desestimar sus bondades y al sobreestimarlas. Ni las voces apocalípticas que profetizan el fin de la inteligencia humana ni los que ven en ella el único modo de desempeño están comprendiendo el tema. Hay que discernir cuándo y cuánto tenemos que usar nuestras herramientas, todas ellas, en especial las que estamos aprendiendo a conocer.
2- El segundo error es creer ciegamente en el resultado de lo que solicitamos. La inteligencia artificial puede dar datos sesgados. Los conjuntos de datos utilizados para entrenar sus modelos a menudo reflejan los sesgos inherentes en la sociedad, como el género, la raza o la clase socioeconómica. Estos sesgos pueden resultar en decisiones discriminatorias o injustas. Por lo tanto, es crucial implementar técnicas de mitigación de sesgos verificar y evaluar antes.
3- La inteligencia artificial un rendimiento excelente en los datos, pero pueden fallar en situaciones del mundo real que difieren de las condiciones en las que fueron entrenados. Este fenómeno se conoce como sobreajuste y puede conducir a predicciones inexactas o comportamientos inesperados. Es importante evaluar el rendimiento del modelo en una variedad de situaciones y realizar ajustes necesarios para mejorar su capacidad de generalización.
4- La falta de transparencia en los modelos de inteligencia artificial es otro desafío importante. Muchos modelos son cajas negras, lo que significa que su funcionamiento interno es difícil de entender para la mayoría de los usuarios. Esta falta de transparencia puede socavar la confianza en el sistema y dificultar la identificación y corrección de errores o sesgos. Para abordar este problema, es fundamental revisar antes de entrar en el proceso de toma de decisiones.
5- No comprender las limitaciones de la inteligencia artificial puede llevar a decisiones erróneas o subestimar el papel del juicio humano en la toma de decisiones. Es importante recordar que la IA es una herramienta, no un sustituto del razonamiento humano, y debe ser utilizada con precaución y supervisión adecuada.
Del juicio humano se desprenden las consideraciones éticas sobre la inteligencia artificial, la privacidad y la seguridad son preocupaciones clave en su uso. El manejo inadecuado de la información trae consigo el riesgo de exposición de datos sensibles.
La falta de respeto en torno a consideraciones éticas y sociales es otro error que puede surgir en el desarrollo y la implementación de sistemas de inteligencia artificial que pueden tener impactos significativos en la sociedad. Desde cuestiones de equidad y justicia hasta el empoderamiento o la exacerbación de desigualdades existentes. La falla en las consideraciones éticas es tan relevante que si no discernimos entre lo que es correcto y lo que no lo es, podemos estar abonando el terreno de la ignorancia o propiciando riesgos en forma irresponsable.
Usar la inteligencia artificial para resolver una tarea escolar sin revisar lo que se entrega es incorrecto, tanto como que un profesor evalúe con rúbricas prefiguradas por una máquina. Esto se convierte en una serpiente que se muerde la cola: una máquina que califica el trabajo de otra máquina, en vez de aspirar al conocimiento. Un programa de entrenamiento personalizado que automatiza contenidos y da respuestas generales, cae en el mismo error. Un escritor que le pide a un programa lingüístico que le haga el trabajo artístico es igual. Un director que sustenta sus decisiones y rinde cuentas sin pasar el ojo por un informe elaborado por un programa, es una falla ética.
Fallamos cuando no somos responsables con el uso de inteligencia artificial, cuando lo que obtenemos de este tipo de programas es utilizado para influir en el comportamiento humano, desde la personalización de contenido en redes sociales hasta la selección de productos en línea. Si estos algoritmos están diseñados para maximizar el compromiso o los ingresos sin tener en cuenta consideraciones éticas, pueden fomentar la desinformación, la polarización y la manipulación.
Fallamos cuando manipulamos una fotografía de algún personaje público para dar una impresión errónea y sesgada. Se ha hecho por diversión, la foto del Papa Francisco, para tratar de controlar una crisis, la imagen de Kate Middleton, con políticos, con funcionarios públicos, con personajes del medio del espectáculo. No es correcto.
Efectivamente, el uso de inteligencia artificial presenta y seguirá presentando una serie de desafíos y errores potenciales que deben abordarse de manera proactiva para garantizar su uso responsable y ético. Al enfrentar estos desafíos con un enfoque multidisciplinario que integre la tecnología, la ética y la consideración de impactos sociales, podemos aprovechar este poder transformador si aprendemos a mitigar los riesgos y maximizamos sus beneficios para la sociedad.
Contacto:
Correo: [email protected]
Twitter: @CecyDuranMena
Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.