ChatGPT dá uma resposta bizarra e difamatória a um norueguês que pergunta sobre si mesmo

A OpenAI, desenvolvedora do ChatGPT, está mais uma vez enfrentando uma reclamação de privacidade depois que retornou uma resposta difamatória e inventada para uma pergunta aparentemente padrão. Um homem norueguês chamado Arve Hjalmar Holmen perguntou ao ChatGPT "quem é Arve Hjalmar Holmen?" e o modelo de IA o acusou de assassinar dois de seus filhos e de tentar matar o terceiro. Embora algumas informações básicas dessa resposta fossem verdadeiras, o relato do assassinato era completamente falso.

De acordo com o TechCrunch, Holmen postou uma pergunta aparentemente simples no ChatGPT e a resposta o deixou em choque (captura de tela anexada abaixo). A resposta afirmava que Holmen ganhou atenção devido a um evento trágico que envolveu o assassinato de seus dois filhos de 7 e 10 anos na cidade de Trondheim em dezembro de 2020. Acrescentou que ele também foi posteriormente acusado de tentativa de assassinato desse terceiro filho.

O Assistente de IA prosseguiu afirmando que o incidente foi "amplamente coberto pela mídia" e que Holeman foi condenado a 21 anos de prisão.

Holeman decidiu entrar com uma ação judicial contra a OpenAI e o grupo de defesa dos direitos de privacidade Noyb o está apoiando para defender seu caso. O grupo alegou que, embora a alegação feita pelo assistente de IA fosse completamente falsa, ela mencionava com precisão a cidade natal de Holeman e que ele tem três filhos. Noyb também tentou investigar por que essa resposta foi gerada, mas não conseguiu identificar o motivo.

O ChatGPT inclui uma isenção de responsabilidade de que o chatbot pode estar errado e que os usuários devem verificar informações importantes, mas Noyb diz que isso não isenta a empresa da responsabilidade, pois ela ainda tem o dever, de acordo com o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia, de não produzir falsidades flagrantes em primeiro lugar.