Reconhecendo deepfakes: Difícil, mas não impossível

Muitos estudos atuais que tratam do problema das "deepfakes" são preocupantes. As falsificações criadas usando inteligência artificial podem colocar mensagens publicitárias na boca de celebridades ou mostrar políticos em fotos que nunca aconteceram.

Se o senhor colocar esse material na frente das pessoas, os resultados são sempre semelhantes, conforme compilou a revista "Science". O senhor também poderia jogar uma moeda para decidir o que é real e o que não é.

Afinal de contas, um dos motivos para os resultados ruins é que o fenômeno das deepfakes é relativamente novo e quase ninguém é confrontado com a necessidade de decidir entre conteúdo falso e genuíno no dia a dia.

E, infelizmente, também há uma falta de conhecimento sobre os meios simples pelos quais os lábios de uma pessoa, por exemplo, podem ser sincronizados com uma nova declaração.

Não é uma receita simples

No entanto, há alguns estudos interessantes que oferecem um pouco de esperança. Por exemplo, descobriu-se que o córtex visual reage de forma completamente diferente a rostos gerados por IA do que a fotografias reais. Infelizmente, outros processos no cérebro se sobrepõem a esse sinal, de modo que, como antes, os participantes do teste não são melhores nem piores no reconhecimento de falsificações.

Entretanto, há alguns sinais, e é possível aprender a reconhecer as imagens falsas. Às vezes, as mãos parecem completamente erradas e parecem ter seis ou apenas quatro dedos. Às vezes, aparecem pernas que não pertencem a ninguém. Muitas vezes, as sombras caem incorretamente - no colarinho da camisa à esquerda e nos óculos escuros à direita.

Mas é claro que a IA está melhorando, e esses pontos fracos óbvios estão se tornando cada vez mais raros. Mas aí entra em cena outro fenômeno. Ao treinar com mais e mais material, os rostos se tornam mais uniformes, mais regulares e mais perfeitos. Não há manchas e imperfeições. As formas do corpo também são idealizadas em vez de naturais. Isso parece menos bonito e mais estranho.

Aliás, isso também se aplica a vozes falsas. A IA não tende a gerar deslizes típicos da língua, uma breve gagueira ou uma falta de qualidade de gravação.

Quanto mais complexa for a falsificação, mais fácil será detectá-la. Se, por exemplo, apenas uma gravação de som tiver que ser verificada quanto à autenticidade, a maioria falha. Se houver também um vídeo, de preferência com legendas, um número significativamente maior de participantes do teste reconhecerá o conteúdo falso.

E, afinal, qualquer pessoa que saiba que as imagens e os vídeos podem ser manipulados e criados dessa forma e que a tecnologia tem alguns pontos fracos pode reconhecer as falsificações profundas de forma mais confiável. Caso contrário, aplica-se o que sempre foi verdade: nunca é demais ser crítico e fazer perguntas.