OpenAI presenta Voice Engine, un modelo que clona voces, pero frena su lanzamiento La compañía especializada en inteligencia artificial busca evitar que se haga un mal uso de la tecnología más reciente.
OpenAI, la empresa líder en inteligencia artificial (IA), ha presentado Voice Engine, un modelo capaz de clonar voces humanas utilizando solamente una muestra de 15 segundos. Sin embargo, la compañía liderada por Sam Altman ha decidido no lanzar esta tecnología al público en general, con el objetivo de prevenir su mal uso.
"Reconocemos que generar un discurso que se asemeje a las voces de las personas conlleva serios riesgos, especialmente en un año electoral", declaró la empresa en un comunicado oficial publicado en su blog.
Según informa The Verge, el modelo Voice Engine puede convertir texto en voces, permitiendo la creación de voces sintéticas que conservan los acentos nativos de las personas. En una demostración proporcionada por la empresa experta en IA, se muestra cómo la voz en inglés se traduce al español, mandarín, alemán, francés y japonés, manteniendo su acento original.
Actualmente, solo algunas empresas selectas tienen acceso a esta tecnología, entre las que se encuentran Age of Learning, una firma de tecnología educativa, HeyGen, una plataforma de narración visual, Dimagi, un fabricante de software de salud, Livox, un creador de aplicaciones de comunicación de inteligencia artificial, y Lifespan, un sistema de salud.
Según informa Business Insider, OpenAI ha decidido frenar el lanzamiento de la herramienta con el objetivo de prevenir abusos con las voces sintéticas. Por este motivo, las empresas colaboradoras han aceptado las políticas de uso establecidas por la compañía, que incluyen prohibir el uso de la voz de alguien sin su consentimiento y la obligación de informar a los usuarios cuando interactúan con una voz generada por IA.
Además, se han implementado medidas de seguridad adicionales, como marcas de agua para rastrear el origen de cualquier audio generado por Voice Engine, así como un monitoreo de su uso.
Relacionado: Sam Altman asegura que las empresas necesitarán la inteligencia artificial para sobrevivir