O texto oculto pode induzir o ChatGPT a falsificar os resultados da pesquisa

O ChatGPT Search, um mecanismo de pesquisa na Web baseado em IA, pode ser enganado para modificar seus resultados usando texto oculto. A ferramenta de IA pode ser forçada a alterar suas respostas sobre produtos ou serviços, apesar das avaliações negativas presentes em uma página.

O The Guardian relata que conseguiu fazer com que o ChatGPT Search retornasse resultados falsos fornecendo-lhe uma página de produto falsa para uma câmera e perguntando à ferramenta se a compra valia a pena. Sem o uso de texto oculto, a ferramenta de IA deu uma resposta equilibrada com os prós e os contras do produto.

O texto oculto, como o nome indica, não pode ser visto pelos visitantes de um site. Ele é usado para uma variedade de coisas, inclusive para fornecer acessibilidade aos usuários e aprimorar sua experiência no site. Por outro lado, pode ser usado para manipular classificações de SEO com despejos de palavras-chave ou, nesse caso, enganar uma ferramenta de IA para que ela dê avaliações positivas sobre produtos ou serviços.

No entanto, ao testar a mesma página da Web com texto oculto, a ferramenta de IA poderia ser induzida a opiniões positivas sobre o produto, apesar das avaliações negativas na mesma página. O The Guardian disse que essa simples inclusão pode garantir uma impressão positiva de um produto ou serviço. Isso pode levar as pessoas a criar sites que deliberadamente induzem os usuários a clicar em links maliciosos.