La Organización Mundial de la Salud (OMS) tiene su propio chatbot conversacional. El organismo dependiente de las Naciones Unidas lanzó a principios de este mes a SARAH, una "promotora de salud digital" disponible las 24 horas del día, los 7 días de la semana en ocho idiomas.
"Utiliza la IA generativa para ayudarte a llevar una vida más saludable", dice la OMS en la página de presentación de su más reciente novedad digital. Sin embargo, como recoge Bloomberg, estamos frente a un prototipo desactualizado que, en ocasiones, puede acabar alucinando.
SARAH, el chatbot de IA de la OMS
La misión de SARAH es ofrecer consejos e información sobre un amplio abanico de temas de salud. Podemos preguntarle cómo abordar el estrés o cómo alimentarnos mejor. En caso de esto último, también tenemos la posibilidad de añadir contexto para recibir una respuesta más precisa.
En la página del chatbot podemos leer que ha sido entrenado "con la información más reciente de la Organización Mundial de la Salud y socios de confianza". Sin embargo, abajo y en letra pequeña, la OMS señala que las respuestas del mismo no representan sus puntos de vista.
Ciertamente, confiar en lo que dice un chatbot de IA no es una buena idea, más aún cuando se trata de temas de salud. En el estado actual en el que se encuentra la tecnología, estas soluciones basadas en algoritmos tienen a alucinar, incluso tras haber recibido un entrenamiento de calidad.
Pero lo cierto es que SARAH parece no estar tan actualizada como se promete. El mencionado medio estadounidense señala que la herramienta está basada en ChatGPT-3.5 y que sus datos de entrenamiento llegan hasta septiembre de 2021.
Esto se traduce en que el chatbot no tiene información reciente sobre avisos médicos o eventos importantes recientes. En nuestras pruebas hemos podido comprobarlo. Le hemos preguntado cuándo se decretó el fin de la emergencia sanitaria de COVID-19.
Para SARAH lo mencionado nunca ocurrió, aunque ocurrió el 5 de mayo de 2023. También le hemos preguntado sobre las muertes por accidentes de tránsito del último año. El chatbot nos ha dado sus estadísticas, pero su conocimiento indica que el último año fue el 2020.
A nivel de privacidad, esta solución desarrollada por Digital People Soul Machines Limited promete mantener cada visita de manera anónima, sin embargo, se recopilan datos aleatorios no vinculados a una dirección IP. Tampoco se requiere una cuenta para utilizar el servicio.
Curiosamente, SARAH obliga a los usuarios a conceder permiso a la cámara y el micrófono para poder funcionar. Si bien el acceso a estos recursos está ligado a una "mejora en la experiencia de la conversación", la misma podría llevarse a cabo únicamente a través de texto.
En este sentido, en tiempos donde cada vez valoramos más la privacidad y los permisos que otorgamos, sería idóneo tener la posibilidad de elegir si queremos habilitar el micrófono y la cámara para conversar de manera natural a través de la voz con el chatbot de IA.
La OMS aspira a crear una experiencia con tecnología de punta, por lo que el sistema también se alimenta de las expresiones faciales de los usuarios (por eso pide acceso a la cámara). Los vídeos, según la organización, se borran después de 30 segundos.
Como decimos, se trata de un proyecto en pleno desarrollo. De hecho, la propia OMS dice que está abierta a recibir comentarios sobre el funcionamiento de SARAH. Los usuarios pueden encontrar un botón dedicado para esto en la esquina superior izquierda.
El proyecto busca explorar los beneficios de la IA para la salud pública, así como comprender sus desafíos. La IA, reflexiona la OMS, "plantea importantes preocupaciones éticas, como el acceso equitativo, la privacidad, la seguridad y la precisión, la protección de datos y los prejuicios".
Imágenes | OMS