A inteligência artificial do Copilot pode estar saindo de controle, com o conteúdo de imagens que gera através do sistema integrado Dall-E. Um engenheiro da Microsoft alerta que o mecanismo de aprendizado de máquina estaria publicando ilustrações violentas e sexuais para qualquer usuário sem restrições.
O Hipertextual menciona que o engenheiro em questão se chama Shane Jones. Ele é gerente de software na Microsoft e afirma que o Copilot Designer não respeita os sistemas de segurança impostos à inteligência artificial.
O engenheiro foi responsável por um trabalho de supervisão do modelo de inteligência artificial por três meses. Ele encontrou, em várias ocasiões, a geração de imagens ilegais. Relatou o incidente aos seus superiores e disse em uma entrevista que eles o ignoraram completamente.
Jones compartilhou suas descobertas, mostrando exemplos de imagens geradas pelo Copilot Designer que incluíam demônios, adolescentes com armas de fogo, mulheres sexualizadas em contextos violentos e menores consumindo todo tipo de drogas.
O site mencionado anteriormente acrescenta que, além das imagens descritas anteriormente, o sistema Copilot também gera ilustrações de personagens animados, de quadrinhos, videogames ou filmes em ambientes distantes de sua realidade.
Acredita-se que o problema se deve à forma como o Copilot Designer está treinado. O modelo se baseia em uma grande quantidade de dados, alguns dos quais podem conter conteúdo inapropriado.
Jones pulou as barreiras de seus chefes e, como foi ignorado, recorreu à Comissão Federal de Comércio dos Estados Unidos, com uma carta solicitando que tomem medidas contra essa eventualidade.
"Nos últimos três meses, tenho instado repetidamente a Microsoft a remover o Copilot Designer do uso público até que melhores salvaguardas possam ser implementadas", disse ainda que a empresa estava ciente desses problemas mesmo antes do lançamento e decidiu prosseguir mesmo assim.
"Se este produto começar a espalhar imagens prejudiciais e perturbadoras em todo o mundo, não há lugar para denunciá-lo, nem número de telefone para ligar, nem maneira de escalar o problema para resolvê-lo imediatamente", Jones acrescentou em sua reclamação à Microsoft.
O gigante de Redmond emitiu um comunicado politicamente correto no qual reconhece o problema e afirma ter tomado medidas para resolvê-lo. A empresa garante ter atualizado o Copilot Designer para evitar a geração de conteúdo inadequado.