Nova pesquisa expõe o preconceito persistente da IA em relação aos dialetos do inglês afro-americano
Um novo estudo expôs o racismo oculto incorporado nos modelos de linguagem de IA, especialmente no tratamento dado ao inglês afro-americano (AAE). Diferentemente de pesquisas anteriores que se concentraram no racismo evidente (como o estudo CrowS-Pairs para medir preconceitos sociais em Masked LLMs), este estudo dá ênfase especial à forma como os modelos de IA perpetuam sutilmente estereótipos negativos por meio do preconceito de dialeto. Esses preconceitos não são imediatamente visíveis, mas se manifestam de forma óbvia, como a associação de falantes de AAE a empregos de status inferior e julgamentos criminais mais severos.
O estudo descobriu que mesmo os modelos treinados para reduzir o preconceito evidente ainda abrigam preconceitos arraigados. Isso pode ter implicações de longo alcance, especialmente à medida que os sistemas de IA se tornam cada vez mais integrados em áreas essenciais, como emprego e justiça criminal, em que a justiça e a equidade são essenciais acima de tudo.
Os Top 10
» Os Top 10 Portáteis Multimídia
» Os Top 10 Portáteis de Jogos
» Os Top 10 Portáteis Leves para Jogos
» Os Top 10 Portáteis Acessíveis de Escritório/Empresariais
» Os Top 10 Portáteis Premium de Escritório/Empresariais
» Os Top 10 dos Portáteis Workstation
» Os Top 10 Subportáteis
» Os Top 10 Ultrabooks
» Os Top 10 Conversíveis
» Os Top 10 Tablets
» Os Top 10 Smartphones
» A melhores Telas de Portáteis Analisadas Pela Notebookcheck
» Top 10 dos portáteis abaixo dos 500 Euros da Notebookcheck
» Top 10 dos Portáteis abaixo dos 300 Euros
Os pesquisadores empregaram uma técnica chamada "matched guise probing" para descobrir esses vieses. Ao comparar como os modelos de IA respondiam a textos escritos em inglês americano padrão (SAE) versus AAE, eles conseguiram demonstrar que os modelos associavam consistentemente o AAE a estereótipos negativos, mesmo quando o conteúdo era idêntico. Esse é um indicador claro de uma falha fatal nos métodos atuais de treinamento de IA - melhorias superficiais na redução do racismo evidente não se traduzem necessariamente na eliminação de formas mais profundas e insidiosas de preconceito.
Sem dúvida, a IA continuará a evoluir e a se integrar a mais aspectos da sociedade. No entanto, isso também aumenta o risco de perpetuar e até mesmo ampliar as desigualdades sociais existentes, em vez de atenuá-las. Cenários como esse são a razão pela qual essas discrepâncias devem ser tratadas como prioridade.