Nova abordagem de treinamento visa reduzir o viés social na IA

Os chatbots de IA são conhecidos por gerar soluções racialmente preconceituosas com bastante frequência quando submetidos a várias perguntas, e muitos esforços de pesquisa têm se voltado para esse problema. Agora, um novo método de treinamento está pronto para resolver esse problema. O método é conhecido como "deduplicação justa" ou apenas "FairDeDup" e é o resultado de uma pesquisa conduzida por uma equipe da Adobe e da OSU College of Engineeringeric Slyman, estudante de doutorado da OSU.

A desduplicação de conjuntos de dados usados no treinamento de IA consiste na remoção de informações redundantes, reduzindo assim os custos de todo o processo. Por enquanto, os dados utilizados são provenientes de toda a Internet e, portanto, contêm ideias e comportamentos injustos ou tendenciosos que os seres humanos costumam criar e compartilhar on-line.

De acordo com Slyman, "o FairDeDup remove os dados redundantes e, ao mesmo tempo, incorpora dimensões de diversidade controláveis e definidas por humanos para atenuar os preconceitos. A lista de abordagens tendenciosas perpetuadas pelos chatbots de IA atualmente inclui ocupação, raça ou gênero, mas também idade, geografia e ideias relacionadas à cultura que são obviamente injustas.

O FairDeDup é uma versão aprimorada de um método anterior conhecido como SemDeDupque muitas vezes exacerbava os preconceitos sociais, embora tenha se mostrado uma solução econômica. Os interessados nesse campo devem consultar o livro Mastering AI Model Training, de Kris Hermans : A Comprehensive Guide To Become An Expert In Training AI Models, de Kris Hermans, que atualmente está disponível no Kindle por US$ 9,99 ou na versão em brochura (por US$ 44,07).