El lanzamiento del ChatGPT en noviembre del 2022 desencadenó dos reacciones principales en relación con la IA. Por un lado, se hicieron afirmaciones varias sobre su naturaleza disruptiva en campos como la ciencia, la tecnología, el ejército, la sociedad, la economía y la medicina. Hay incluso observadores que consideran que es una amenaza para la propia existencia de la especie humana, ya que se prevé que en 2040-2050 haya superado a la inteligencia humana en la mayoría de terrenos. También existe la preocupación de que las máquinas basadas en IA puedan sustituir a los seres humanos en muchos sectores de la economía, con el consiguiente aumento del desempleo y sus correlatos: disturbios civiles, pobreza y otros problemas sociales.
Por otro lado, algunas voces han llamado la atención sobre las implicaciones geopolíticas de la implantación de la IA. Los gobiernos podrían utilizarla, y algunos ya lo hacen, para la vigilancia nacional e internacional, socavando con ello muchos de los principios de las sociedades democráticas. En semejante contexto, sería fácil sucumbir al pánico moral sin establecer claramente la naturaleza de la amenaza y acabar optando por una moratoria o un exceso de regulación que a la larga resultaría contraproducente. Podría darse el caso de que determinados tipos de tecnología basada en IA plantearan retos en la convivencia entre los seres humanos y las máquinas; en especial, en lo que respecta al estatuto moral y jurídico de los robots humanoides y a la naturaleza omnipresente de esa tecnología en nuestra vida personal y social y, de modo más general, en la sociedad. Sin embargo, antes de establecer cualquier restricción, debemos evaluar con atención los beneficios potenciales de dicha tecnología (en particular, en campos como la medicina) y debemos fomentar una aplicación responsable.
La naturaleza transformadora de la tecnología de IA
Es indiscutible que la tecnología de IA está transformando la atención sanitaria. Mejorará la investigación biomédica en ámbitos como la genómica, los diagnósticos del cáncer de piel y la retinopatía diabética o el descubrimiento de nuevos fármacos, por citar solo unos ejemplos. Algunas de las aplicaciones más prometedoras de la IA incluyen el descubrimiento de nuevas curas mediante el análisis rápido y eficaz de grandes conjuntos de datos, y también la determinación de tendencias y la búsqueda de anomalías (analíticas predictivas: los ordenadores utilizan algoritmos para aprender de los conjuntos de datos –aprendizaje automático– en lugar de seguir instrucciones detalladas dictadas por un programador humano).
La tecnología de IA podría ofrecer además la posibilidad de que las curas existentes sean más eficientes y eficaces (precisión en el diagnóstico) y permitir nuevas indicaciones para los medicamentos existentes. Podría ofrecer también capacidades para hacer más eficiente la prestación de asistencia tomando decisiones de tratamiento más rápidas y precisas y reduciendo costes administrativos mediante la recopilación de datos de pacientes y la creación de historiales médicos. Por último, también podría tener una amplia repercusión en la prestación de atención sanitaria a escala mundial. P. ej., permitiría de que los médicos se conecten a un sistema que use tecnología de IA para diagnosticar y tratar pacientes a distancia.
Otro aspecto importante que debe tenerse en cuenta al abordar la naturaleza transformadora de la tecnología de IA en medicina es cómo redefinirá la relación entre médico y paciente. Según un estudio del sistema sanitario de Dartmouth¬-Hitchcock, la Asociación Médica Estadounidense (AMA), Sharp End Advisory y el Instituto Australiano de Innovación Sanitaria, los médicos dedican más de un 27% de su tiempo total al trabajo clínico presencial directo y un 49,2% al trabajo administrativo y las historias clínicas electrónicas (Sinsky et al., 2016). La llegada de la IA podría ayudar a los médicos a dedicar más tiempo a los pacientes y hacer que la atención sanitaria sea más personal, si bien usando más tecnología.
La IA podría tomar decisiones de tratamiento más rápidas y precarias y reducir costes administrativos mediante la recopilación de datos de pacientes y la creación de historiales médicos
Ya se han probado algunas tecnologías de IA. Por ejemplo, Watson (que ahora se llama Merative), una IA desarrollada por IBM, ha demostrado que puede hacer recomendaciones de tratamiento similares a las de expertos humanos en un 99% de los casos y en un 30% ha encontrado opciones de tratamiento omitidas por los médicos (Lohr, 2016). Además, Watson realizó tareas como la integración y agregación de datos, la evaluación del riesgo de los pacientes de desarrollar una enfermedad concreta o de requerir un tratamiento de alto coste. La mejora de los diagnósticos médicos mediante la aplicación de la IA a la práctica clínica es también otro campo prometedor que se está investigando con gran atención. P. ej., se ha usado el aprendizaje automático para optimizar el diagnóstico de una dolencia que presenta síntomas de mareo (es decir, vértigo paroxístico benigno). Se cree que la IA puede ayudar a corregir y hacer más eficiente y preciso el diagnóstico de esa dolencia.
La naturaleza disruptiva de la tecnología de IA
Como ya se ha mencionado, el aprendizaje automático utiliza algoritmos para evaluar conjuntos masivos de datos, construir modelos, evaluarlos y proporcionar retroalimentación, en algunos casos sin supervisión humana. Ese tipo de tecnología utiliza algoritmos matemáticos para construir modelos de análisis estadístico susceptibles de mejorarse con la experiencia. El reto en ese proceso es que hay que entrenar una IA para mejorar la sensibilidad y la precisión para la optimización de la predictibilidad en el diagnóstico y las recomendaciones de opciones de tratamiento. Ahora bien, cabe la posibilidad de que se introduzcan o aprendan sesgos basados en predictores injustos o inexactos que pueden afectar a la atención dada al paciente. Los sesgos plantea interrogantes acerca de la aplicación de la tecnología de IA.
En primer lugar, existe la posibilidad de que se produzca un sesgo en la medición, lo que podría dar lugar a una interpretación errónea del conjunto de datos y hace surgir la pregunta de quién es el responsable en caso de que un diagnóstico erróneo provoque una carga económica, daños físicos y psicológicos o incluso la muerte. En segundo lugar, existe también la posibilidad del sesgo ético. El análisis de datos puede manipularse para la creación de perfiles o la estigmatización. P. ej., cabría la posibilidad de que se introdujeran algunos valores y normas en un algoritmo para identificar a los pacientes con riesgo de recibir un tratamiento de alto coste o con el potencial de desarrollar afecciones sanitarias específicas.
Es preciso seguir evaluando las repercusiones psicológicas en los pacientes que se enteran de que una 'máquina' ha decidido qué afecta a su atención médica y aclarar quién es responsable en caso de fallo
Además del sesgo, el uso de la IA en medicina plantea importantes cuestiones éticas acerca de hasta qué punto la tecnología de IA debe ser independiente de la supervisión y el control humanos, y de cómo se evalúan e integran los daños y riesgos en un algoritmo. Además, preocupa cómo dar el consentimiento para que los pacientes reciban una atención clínica dependiente de una tecnología de IA para el diagnóstico y la determinación de las opciones de tratamiento óptimas. Por último, pero no por ello menos importante, es preciso seguir evaluando las repercusiones psicológicas en los pacientes que se enteran de que una máquina ha decidido qué afecta a su atención y aclarar quién es responsable en caso de fallo: el fabricante, el seguro o el proveedor.
Necesidad de una valoración ética
Estamos entrando en un mundo feliz de la atención sanitaria, puesto que la medicina ya está muy comprometida con la integración de la IA en su práctica. Sin embargo, el paradigma que surge promueve más tecnología, y no está claro cómo será posible mejorar, cuando no preservar, las importantes dimensiones humanísticas de la práctica clínica por más que se afirme que los médicos podrán dedicar más tiempo a sus pacientes con la introducción de la IA para ejecutar tareas administrativas u otros trabajos rutinarios. En otras palabras, si la tecnología de IA procesa la información sanitaria sin interferencia humana o toma decisiones finales sobre las opciones de tratamiento, ¿cómo deben percibirla los médicos y los pacientes, como consultora, como oráculo, como ayudante? El uso potencial de la IA autónoma puede cambiar muchos aspectos de la relación médico-paciente y reducir aun más el papel del médico a la categoría de técnico y proveedor de servicios (o, como dicen algunos, de máquina expendedora). Por otra parte, los pacientes podrían llegar a desconfiar de la IA frente a la inteligencia humana cuando lo que está en juego es su atención sanitaria, lo cual crearía un obstáculo a la buena práctica clínica y socavaría la confianza necesaria para una buena atención médica.
Del mismo modo, debemos considerar los principales retos éticos relacionados con la práctica clínica. Los médicos tienen el deber de proteger a los pacientes durante la aplicación de cualquier cambio importante en la asistencia sanitaria, incluida la inminente introducción de la tecnología de IA. Eso significa que hay cuestiones relacionadas con la búsqueda del bien del paciente y la obligación de evitar daños asegurándose de que se minimizan los riesgos; en especial, en el caso de la IA autónoma o los robots. Además, existe un imperativo ético de veracidad sobre la tecnología de IA y los datos generados por el aprendizaje automático, así como sobre los posibles sesgos incorporados en los algoritmos. Todo ello conduce a lo que suele denominarse el problema de la caja negra y la falta de transparencia acerca del proceso que conduce a la producción de datos. Solo la entrada y la salida ofrecen información, el proceso intermedio sigue siendo opaco. La cuestión del acceso y la financiación de esas tecnologías también representa un reto importante. En la mayoría de los casos, solo se beneficiarán de ellas quienes ya tengan acceso a la mejor atención sanitaria.
La tecnología de IA ofrece oportunidades para mejorar la asistencia y los tratamientos, pero el dolor físico, el sufrimiento psicológico y la angustia espiritual siguen estando fuera de su alcance
Por último, una cuestión más fundamental es cómo afectarán las tecnologías de IA a los seres humanos y cuál será la naturaleza de la relación con las máquinas (robots asistenciales, robots de compañía...). A medida que avancemos en esa senda, será importante preservar y proteger nuestra humanidad en la atención sanitaria conforme se vayan utilizando cada vez más tecnologías de IA. Tenemos que resistir el ímpetu de encontrar soluciones mayormente tecnológicas para abordar cuestiones clínicas, sociopolíticas y existenciales de la existencia humana. Rehumanizar la atención sanitaria exige una mayor necesidad de proteger nuestra humanidad y cuestionar el actual marco tecnocientífico en tanto que lente para interpretar y comprender la condición humana.
Contener la bulimia tecnológica
Es poco probable que seamos capaces de parar el progreso tecnológico, pero quizás hemos llegado a un punto crucial en la aventura humana. Alimentar nuestro apetito tecnológico podría ser perjudicial para el florecimiento humano en ausencia de un enfoque de la IA centrado en el ser humano. Por eso, las soluciones tecnológicas impulsadas por la IA para abordar problemas en el contexto social y clínico deben seguir imperativos éticos en cuatro ámbitos clave:
1) delimitación de la naturaleza de la tecnología de IA y necesidad de transparencia sobre sus riesgos y beneficios (información y transparencia);
2) compromiso público para llegar a un consenso con las partes interesadas en el análisis de las consecuencias éticas, sociales, geopolíticas y políticas (participación y consenso);
3) fomento de un desarrollo y una aplicación responsables de la tecnología de IA en la atención sanitaria (rendición de cuentas), y
4) aplicación de un enfoque de la IA centrado en el ser humano que promueva el respeto de la identidad humana, la interacción humana y el avance general de los fines humanos (humanidad).
La modernidad ha cuestionado los marcos (antropológicos) tradicionales y ha expresado escepticismo sobre su utilidad, cuando no los ha considerado sencillamente problemáticos. Pero esos marcos son necesarios para que los seres humanos doten su vida de sentido y propósito. Su rechazo ha creado la actual crisis de identidad antropológica en relación con el estatuto ontológico de los seres humanos (es decir, ¿qué es lo humano?, ¿cuál es el estatuto de lo humano en el mundo?). Si no definimos y comprendemos con claridad en qué consiste nuestra humanidad, delimitar el alcance de la aplicación de la IA se convierte en una tarea ardua. La medicina se enfrenta de continuo a limitaciones externas debidas a factores sociopolíticos y tecnocientíficos, así como a premisas filosóficas que rediseñan los límites de la práctica clínica. Las complejidades de esa práctica, la estructura del sistema sanitario y el modo en que se toman las decisiones en el contexto clínico no pueden captarse por medio de algoritmos. No cabe duda de que la tecnología de IA ofrece nuevas oportunidades para mejorar la calidad de la asistencia y nuevas opciones de tratamiento. Pero algunos elementos de la condición humana, como el dolor físico, el sufrimiento psicológico y la angustia espiritual, seguirán estando fuera de su alcance. La IA incidirá profundamente sobre la atención sanitaria en su desarrollo, práctica y prestación. Es probable que dicha incidencia suponga un reto para nuestra humanidad. Nuestra tarea consiste en encontrar el equilibrio correcto entre la aceptación responsable de la IA y el discernimiento moral para contener nuestra bulimia tecnológica.
Fabrice Jotterand es profesor del Centro de Bioética y Humanidades Médicas del Colegio Médico de Wisconsin y del Instituto de Ética Biomédica de la Universidad de Basilea.
Bibliografía
_Lohr, Steve, "IBM is counting on its bet on Watson", The New York Times, 17/X/2016.
_Sinsky, Christine, et al., "Allocation of Physician Time in Ambulatory Practice", Annals of Internal Medicine, 165, 11 (2016), págs.753-760.