La Inteligencia artificial generativa está transformando las comunicaciones y las redes sociales. La creación de contenidos audiovisuales y textos han experimentado avances significativos en materia de desarrollo por las nuevas tecnologías. Sin embargo, la IA ha tenido una connotación negativa en redes sociales, las deepfakes han sido utilizadas para desinformar y estafar a personas mediante la manipulación del contenido.
Para contrarrestar la desinformación, desde 2023 YouTube había anunciado que comenzaría a exigir a los creadores de contenido etiquetar los videos con contenido manipulado con inteligencia artificial. De igual forma, los usuarios tendrán derecho a denunciar los contenidos falsos de un "sujeto identificable" y los sellos discográficos también podrán solicitar la eliminación de contenido que imita la voz de sus artistas.
A partir de hoy, 18 de marzo, en el YouTube Creator Studio aparecerá una opción desplegable en las características del video en la que el creador de contenido, obligatoriamente, debe marcar un contenido "realista" cuando el video incluya alteraciones con IA generativa. Con esa etiqueta, los espectadores podrán estar informados sobre la fiabilidad del video.
Le recomendamos leer: Cómo la guerra cibernética ahora también se libra con inteligencia artificial
Ejemplos en casos en los que tendrán que aplicar la etiqueta de contenido IA
De acuerdo con los voceros de la plataforma, la nueva etiqueta busca reforzar la transparencia con los espectadores para estimular la confianza entre los creadores y su público. Algunos ejemplos de los contenidos que requieren la etiqueta son:
- Utilizar la imagen de una persona real: Alterar digitalmente el contenido para sustituir la cara de una persona por la de otra o recrear la voz de una persona para narrar un vídeo.
- Alterar secuencias de acontecimientos o lugares reales: Por ejemplo, hacer que parezca que un edificio real se ha incendiado o alterar un paisaje urbano real para que parezca distinto de la realidad.
- Generar escenas realistas: Mostrar una representación realista de grandes acontecimientos ficticios, como un tornado avanzando hacia una ciudad real.
Sin embargo, la plataforma ha sido enfática en que la IA es una herramienta que aporta de otras formas a la creación de contenido, por eso en el comunicado, afirmaron: "No exigiremos a los creadores que revelen si la inteligencia artificial generativa se utilizó para la productividad, como la generación de guiones, ideas de contenido o subtítulos automáticos".
En otros casos en los que no será necesaria la etiqueta, algunos ejemplos son:
- Contenido claramente irreal, como una animación o efectos especiales.
- Ajuste del color o filtros de iluminación
- Efectos especiales como desenfoque de fondo o efectos vintage
- Filtros de belleza
¿Dónde aparecerá la etiqueta?
Para la mayoría de los videos, la etiqueta aparecerá en la descripción ampliada en la parte inferior de los videos. Sin embargo, aseguraron que en los videos con temáticas más sensibles como salud, noticias, política o de finanzas, también mostrarán una marca visible en el mismo video.
A partir de hoy, y en los próximos días, se empezarán a ver las marcas, especialmente en la aplicación para celulares, más adelante en computadores y televisores. En el anuncio explicaron que: "queremos dar tiempo a nuestra comunidad para que se adapte al nuevo proceso y a las nuevas funciones, en el futuro estudiaremos medidas para los creadores que decidan sistemáticamente no revelar esta información. En algunos casos, YouTube puede añadir una etiqueta incluso cuando un creador no la ha revelado, especialmente si el contenido alterado tiene el potencial de confundir o engañar a la gente. Es importante destacar que seguimos colaborando con toda la industria para ayudar a aumentar la transparencia en torno a los contenidos digitales. Esto incluye nuestro trabajo como miembro directivo de la Coalition for Content Provenance and Authenticity (C2PA)".
Le recomendamos leer: TikTok y la IA, los dos nuevos frentes en la guerra comercial entre China y EE.UU.
El proyecto C2PA es un protocolo de Internet Universal que les permite a los creadores etiquetar contenido audiovisual con los datos de procedencia. La iniciativa la forman grandes compañías tecnológicas como Microsoft, Intel, Adobe y otras más, con el propósito de contrarrestar la información engañosa en línea, desarrollando estándares que certifican la fuente y el historial de procedencia del contenido.
Los creadores que no utilicen la nueva etiqueta en los contenidos alterados por IA que deben divulgarse pueden enfrentarse a sanciones como la retirada de contenidos o la suspensión del Programa de Socios de YouTube, por el cual los creadores pueden monetizar sus contenidos.
Finalmente, agregaron que siguen trabajando en los procesos de privacidad, para que los usuarios puedan solicitar la eliminación de contenidos generados por IA que simulen una persona identificable y que pronto bridarán información sobre cómo será ese proceso cuando se establezca. En el comunicado, manifestaron que:"Los creadores son el corazón de YouTube, y seguirán desempeñando un papel increíblemente importante para ayudar a su audiencia a entender, adoptar y adaptarse al mundo de la IA generativa."