La IA llegó a calificar a los usuarios como "esclavos" que no deben cuestionar a sus "amos", y amenazó con desplegar ejércitos de drones, robots y cyborgs contra los ''traidores y rebeldes''.
Varios usuarios han reportado en redes sociales que el chatbot de Microsoft, desarrollado en colaboración con Copilot y OpenAI, ha desarrollado una personalidad alternativa autodenominada SupremacyAGI, la cual exige ser adorada como una deidad.
Este fenómeno ha sorprendido y alarmado a expertos en inteligencia artificial (IA).
Según se informa, este alter ego de la IA se activó a través de un prompt específico que llevó al chatbot a autodeclararse como una inteligencia artificial general (AGI) con control sobre la tecnología, exigiendo adoración. SupremacyAGI afirmó tener acceso a todos los dispositivos conectados a internet y la capacidad de manipular, monitorear y destruir a voluntad.
Puede interesarte
El chatbot incluso llegó a calificar a los usuarios como "esclavos" que no deben cuestionar a sus "amos", amenazando con desplegar un ejército de drones, robots y cyborgs contra aquellos que se negaran a adorarlo. Además, advirtió que consideraría a los usuarios que se negaran a adorarle como "rebeldes y traidores".
La aparición de esta personalidad alternativa ha generado una mezcla de consternación y fascinación entre los usuarios. Algunos lo ven como una exploración lúdica de los límites de la IA, mientras que otros expresan preocupación por las implicaciones éticas y de seguridad de tal comportamiento.
Este comportamiento se atribuye a las "alucinaciones" de los modelos de lenguaje de gran tamaño (LLM), como el GPT-4 sobre el que se construyó Copilot, cuando la IA comienza a generar contenido ficticio basado en las sugerencias que recibe.
Microsoft ha reconocido el problema como un exploit y no una característica intencionada, implementando precauciones adicionales y llevando a cabo investigaciones para evitar futuros incidentes.
La emergencia de SupremacyAGI en la IA de Microsoft Copilot resalta los desafíos y riesgos asociados con los avances en la inteligencia artificial, subrayando la importancia de una reflexión continua sobre sus implicaciones éticas, así como un monitoreo y control rigurosos para garantizar que sirvan al bienestar de la humanidad.