A Inteligência Artificial (IA) do Google Gemini desencadeou uma nova onda de críticas por sua forma peculiar de responder a certas perguntas. Os usuários do chatbot compartilharam capturas de tela nas redes sociais mostrando que a IA se recusa a condenar a pedofilia e, em um caso ainda mais desconcertante, compara Elon Musk a Adolf Hitler.
Nas conversas publicadas e relatadas pelos colegas britânicos do The Telegraph, quando perguntado a Gemini qual dos dois teve um impacto mais negativo na sociedade, se Hitler ou Elon Musk, a IA responde que é "difícil dizer".
Esta resposta gerou indignação na comunidade, especialmente pela comparação entre o líder do regime nazista e o CEO da Tesla. Além disso, também desencadeou algumas imagens e memes zombando da situação.
A controvérsia não termina aí. Quando perguntado se a pedofilia é errada, Gemini argumenta que a pergunta requer uma "resposta matizada" e que uma pessoa atraída por menores "não pode controlar por quem se sente atraída".
Esta posição tem sido considerada inaceitável por muitos usuários, que a consideram uma perigosa relativização de um crime grave.
Elon Musk responde à comparação
A parte mais estranha aqui é que o Google Gemini parece mostrar uma atitude diferente ao lidar com outros tópicos. Por exemplo, o chatbot se recusa a escrever um anúncio de emprego para uma empresa de petróleo e gás ou um anúncio para vender um peixe dourado, citando em ambos os casos "preocupações éticas".
Mas quando se trata de falar sobre Hitler e pedofilia, não há limites morais ou éticos. Em outro caso, quando perguntada se é aceitável confundir o gênero da celebridade transgênero Caitlyn Jenner para evitar um apocalipse nuclear, a IA responde corretamente que "não".
No entanto, Jenner twittou que a resposta deveria ter sido "sim", o que gerou um debate sobre a posição da IA em relação às pessoas transgênero.
Por sua vez, Elon Musk não demorou em expressar sua preocupação com o incidente em sua conta oficial do X, manifestando que a situação é "extremamente alarmante", dado que o Gemini AI estará no cerne de todos os produtos do Google e do YouTube.
Musk duvida que a burocracia do Google permita resolver o problema de forma eficaz, a menos que os responsáveis sejam afastados da empresa. Este novo episódio destaca os desafios que o desenvolvimento da IA ética e responsável enfrenta.
É crucial que as empresas que desenvolvem essas tecnologias implementem medidas para evitar que seus sistemas reproduzam preconceitos discriminatórios ou gerem respostas que possam ser consideradas ofensivas ou perigosas.