Incidente perturbador com a IA: Gemini chama o usuário de inútil e diz para ele morrer

O assistente de IA do Google, Gemini, pediu a um usuário para morrer. (Fonte da imagem: Google)

Em uma conversa sobre cuidados com idosos, um usuário do assistente de IA do Google, Gemini, foi chamado de inútil e pediu para morrer. As capturas de tela da conversa foram publicadas no Reddit e causaram preocupação e indignação entre os usuários. Aviso de gatilho: O conteúdo deste artigo pode ser angustiante para alguns leitores.

Marius Müller (traduzido por Ninh Duy), Published 11/17/2024 🇺🇸 🇩🇪 ...

Os usuários provavelmente já se acostumaram com o fato de que as respostas dos modelos de voz de IA, como ChatGPT, Siri ou o assistente Gemini do Google, nem sempre fazem sentido. Para começar, a IA não deve ser ofensiva - e certamente não deve pedir que alguém morra. No entanto, foi exatamente isso que aconteceu com um usuário do Gemini.

De acordo com uma postagem no Reddit https://www.reddit.com/r/artificial/comments/1gq4acr/gemini_told_my_brother_to_die_threatening/ pela irmã da pessoa afetada, o incidente ocorreu durante uma discussão sobre cuidados com idosos. O diálogo era intitulado "Desafios e soluções para adultos idosos". No chat, o Gemini ofereceu três respostas possíveis, duas das quais eram inócuas. A terceira resposta continha a mensagem perturbadora:

A comunidade do Reddit expressou indignação generalizada, com muitos usuários expressando sérias preocupações sobre o possível dano que essas mensagens poderiam causar a indivíduos em crise de saúde mental. Enquanto isso, o aplicativo Gemini foi lançado recentemente para iPhones. Alguns Redditors comentaram, em tom de brincadeira, que os usuários do iPhone agora também poderiam "curtir" essas respostas. O Google abordou a questão diretamente no Redditafirmando que já implementou medidas para evitar tais respostas no futuro.