Los deepfakes tratan de archivos manipulados a través de tecnologías de inteligencia artificial que imitan con gran precisión vídeos, imágenes o clips de voz, haciendo que parezcan auténticos. Para el Lisa Institute, el uso de técnicas avanzadas de aprendizaje automático permite que estas creaciones engañen fácilmente al ojo humano, presentándose como una realidad alterada que es difícil de distinguir de la original.
Esto les permite generar o modificar contenido con un grado de realismo antes inimaginable. La preocupación principal radica en cómo estos archivos pueden ser utilizados para fines maliciosos, como la manipulación de la opinión pública, difamación de individuos o incluso en la creación de noticias falsas. La capacidad de los deepfakes para crear escenarios falsos pero convincentes plantea interrogantes sobre la integridad de la información y el riesgo de desinformación en las sociedades.
La tecnología está evolucionando rápidamente hacia aplicaciones que plantean serios desafíos tanto para el ámbito empresarial como para el marketing y la seguridad en línea. Wall Street Journal informa que, en el sector financiero, especialmente en bancos y proveedores de servicios financieros, se ha reportado un incremento en los ataques de fraudes impulsados por deepfakes. Estos ataques van desde llamadas fraudulentas imitando voces de individuos reales hasta la suplantación de identidades con fines ilícitos.
En el campo de la publicidad, según especifica el portal Marketing Directo, los marketers ven en los deepfakes una oportunidad para innovar en la forma de conectar con las audiencias. Sin embargo, esta tecnología también conlleva el riesgo de generar contenidos publicitarios engañosos, lo que podría minar la confianza del consumidor hacia las marcas. Estados como Texas y California ya han tomado medidas legales contra el uso malintencionado de deepfakes, y se espera que la futura Ley de IA de la Unión Europea promueva un marco para su uso ético en el marketing.
La sociedad, víctima principal
Por su lado, Business Insider agrega que la preocupación es creciente en torno a la suplantación de identidad y las estafas facilitadas por esta tecnología. La capacidad de crear vídeos falsos pero convincentemente realistas, mediante técnicas de aprendizaje profundo, plantea un reto significativo para la sociedad, en su esfuerzo por distinguir lo real de lo manipulado. Además, casos como el de una empresa que estuvo a punto de perder millones por una llamada engañosa evidencian la capacidad de estos fraudes para causar daños materiales importantes.
Los ataques cibernéticos que involucran el robo de datos personales y su posterior uso en esquemas fraudulentos están en aumento. Los delincuentes utilizan información robada, como números de cuentas bancarias, para llevar a cabo ataques más sofisticados, que ahora pueden incluir el uso de deep fakes para aumentar su efectividad. El popular diario The New York Times menciona que entre 2020 y 2022, más de 300 millones de personas fueron víctimas de estas prácticas, con pérdidas estimadas en 8800 millones de dólares, de acuerdo con la Comisión Federal de Comercio.
Este panorama subraya la necesidad urgente de desarrollar estrategias y regulaciones más efectivas para contrarrestar el potencial mal uso de las tecnologías de inteligencia artificial, protegiendo así tanto a las empresas como a los consumidores de sus posibles consecuencias negativas.