Snapchat anunció que incorporará una marca de agua en todas las imágenes generadas por su tecnología de Inteligencia Artificial (IA). Esta medida se aplicará al exportar o guardar estas creaciones en el carrete de la cámara.
La decisión de la empresa surge con el propósito de garantizar que los usuarios estén al tanto de las tecnologías empleadas en la plataforma. Para ello, ya utiliza diversos símbolos y etiquetas para proporcionar contexto e información durante las interacciones, incluso con el asistente de chat impulsado por IA, My AI, desarrollado por ChatGPT.
Además, Snapchat examina con "mucho cuidado" los anuncios políticos mediante un proceso de revisión humana para detectar cualquier posible uso engañoso de la IA generativa.
Con la nueva medida anunciada, los receptores de estas imágenes generadas por IA podrán identificar fácilmente el origen del contenido, ya que contendrán el logotipo de Snapchat con una estrella en la esquina superior derecha, indicando el uso de herramientas impulsadas por esta tecnología.
En términos de cumplimiento de la privacidad, Snapchat asegura que todas las funciones basadas en IA pasan por una estricta revisión para garantizar la seguridad y la privacidad de los usuarios. Para ello, cuentan con un equipo dedicado que evalúa la coherencia de los resultados de la IA y detecta posibles fallas en los modelos para aplicar soluciones de seguridad.
Además, la empresa estableció principios de gobernanza responsable y un proceso de revisión de seguridad para detectar y eliminar mensajes problemáticos en las primeras etapas del desarrollo de sus experiencias de IA Lens.
Asimismo, están implementando pruebas adicionales para minimizar cualquier sesgo potencial en los resultados de la IA.