CMV Subreddit infiltrado por bots para um experimento universitário antiético
Pesquisadores da Universidade de Zurique realizaram secretamente um estudo envolvendo bots de IA para ver se eles mudam a opinião das pessoas sobre vários assuntos. O experimento teve como alvo o subreddit r/changemyview (CMV), um tópico de discussão popular sobre vários tópicos de pontos de vista opostos.
Os pesquisadores não identificados não entraram em contato com os moderadores previamente nem pediram permissão antes de implementar os bots gerados por IA. Os moderadores foram informados após o experimento por e-mail como "parte de uma etapa de divulgação"
Alguns dos exemplos mais condenatórios incluem um bot que "fingia ser uma vítima de estupro", um que agia "como um conselheiro de trauma especializado em abuso" ou um bot que se apresentava "como um homem negro que se opunha ao Black Lives Matter"
Os moderadores também acusaram os pesquisadores de mudar de uma abordagem planejada de "argumentos baseados em valores", autorizada pela comissão de ética da universidade, para criar "argumentos mais personalizados e refinados" que não foram aprovados.
Os bots tiveram acesso aos atributos pessoais do Original Poster (OP), que incluíam gênero, idade, localização, etnia e orientação política, conforme inferido pelo histórico de postagens na plataforma. Os pesquisadores argumentaram que o método era justificado porque "a falta de experimentos de campo existentes constitui uma lacuna inaceitável no corpo de conhecimento"
A resposta da equipe de pesquisa da Universidade de Zurique não ajudou muito a apagar o fogo. Eles alegaram que estavam "comprometidos com a transperência total" Eles defenderam seu caso sob o pretexto de "ajudar a sociedade a se preparar para o impacto no mundo real da persuasão baseada em IA"
Mais importante ainda, eles achavam que esse projeto "produziu insights importantes" e "suprimir a publicação não é proporcional à importância dos insights que o estudo produz"
Em um e-mail enviado ao Engadgetos pesquisadores alegaram que "os possíveis benefícios dessa pesquisa superam substancialmente seus riscos"
A situação ficou tão ruim que o diretor jurídico do Reddit, Ben Lee, respondeu às postagens, dizendo que a equipe havia "banido todas as contas associadas ao esforço de pesquisa da Universidade de Zurique" Lee disse que o Reddit estava "no processo de entrar em contato com a Universidade de Zurique e essa equipe de pesquisa em particular com demandas legais formais"
