El miércoles, 24 de abril, tuvo lugar el conversatorio 'Los deep fake auditivos en época electoral y cómo combatirlos', organizado por Prisa Media y moderado por Alejandro Santos, director de contenidos y proyectos especiales en Caracol Radio.
En el que participaron Alfonso Ospina, director del sistema informativo de Caracol Radio; y Ana Ormachea, Chief Digital Officer (CDO) Radio Prisa Media y Álvaro Montes, director IA Colombia. Además, José Gutiérrez, director general de Soluciones, Digital y Tecnología de PRISA Media, estuvo a cargo de la introducción.
José Gutiérrez mencionó que "desde Prisa hemos llegado a un acuerdo con Open AI, la gran empresa que está liderando este cambio con su producto Chat GPT".
Le puede interesar:
- ¿Es inteligente la inteligencia artificial?
- Cómo sería el mundo si no existiera el internet: esto respondió la inteligencia artificial
- IA en democracias: El reto de evitar la manipulación para unas elecciones transparentes
- Inteligencia artificial, big data y blockchain: pilares de la seguridad en apuestas online
"El contenido de Prisa ha sido seleccionado en exclusiva para poder formar todos los nuevos modelos de Chat GPT en español a nivel mundial. Somos privilegiados de poder construir una serie de modelos con Open AI que ayuden a dar herramientas y servicios a la sociedad", añadió Gutiérrez.
"Nuestro foco es liderar la transformación y convertirnos en el medio que use la inteligencia artificial para ser más eficiente, ayudar en las labores de investigación periodística y para poder comunicar más y mejor a la sociedad", concluyó el director general de Soluciones, Digital y Tecnología de PRISA Media.
De igual manera, con el avance de la inteligencia artificial han aumentado los casos de noticias falsas. Este 2024, "el 50 por ciento de la población en 70 países tienen elecciones, por ejemplo Estados Unidos, México y la India", comenta Alejandro Santos.
Durante la época electoral es común encontrarse con toneladas de desinformación, siendo esta la peor enemiga de la democracia. "La manera en que los medios de comunicación y periodistas reaccionamos ante la desinformación y las noticias falsas que navegan tan rápida y cómodamente en el mundo digital", afirma Santos.
"Precisamente, en esa línea, Prisa Media acaba de lanzar una herramienta muy potente llamada VerificAudio, que se encarga de detectar el deep fake en audios, para mirar un poco como podemos combatir estos contenidos falsos que ya han sido comenzados a utilizar por campañas políticas", concluye el director de contenidos y proyectos especiales en Caracol Radio.
VerificAudio, herramienta de Prisa Media que detecta audios falsos
VerificAudio es una herramienta al servicio de los periodistas de Prisa Media que detecta audios falsos, o deep fakes, generados con voces sintéticas o alteradas con tecnología con la ayuda de inteligencia artificial. Prisa Media, al ser el mayor productor de audio en español del mundo, quiso combatir la desinformación.
Ana Ormachea, Chief Digital Officer (CDO) Radio Prisa Media, habló sobre las motivaciones para crearla. "VerificAudio es una primera respuesta de Prisa Media ante su compromiso con la credibilidad. Los últimos meses vimos la gran calidad que existía en la clonación de audio. Esto es un avance de la tecnología que puede ser utilizado para el bien o para el mal", afirmó.
Ormachea explicó cómo funciona la herramienta: "es tan sencillo como tomar uno de esos audios que están por redes sociales y compartirlo a nuestro equipo verificador, ellos lo suben a la herramienta, y la herramienta con dos sistemas, un sistema comparador y un sistema verificador, se encarga de comprobar su veracidad".
"El sistema comparador, si tenemos una voz original de esa persona, se realiza la comparación, y si no la tenemos, se opta por el modelo identificador. Está creado por dos modelos de inteligencia artificial, uno es una red neuronal, y el otro es un transformer. Lo que damos nosotros como resultado es una aproximación, y queremos que los periodistas realicen una labor de investtigación en torno a esos audios", explicó la Chief Digital Officer.