A Pindrop lança o software Pulse Inspect para detectar clones de voz falsos com IA para ajudar a impedir fraudes e desinformação
A Pindrop lançou o software Pulse Inspect para detectar clones de voz falsos de IA para ajudar a impedir fraudes e desinformação. O software usa tecnologias patenteadas para detectar de forma confiável mais de 90% das vozes geradas por IA, mesmo com amostras de áudio com menos de dez segundos de duração.
As vozes clonadas por IA se tornaram tão convincentemente reais que milhões foram perdidos em fraudes. No início deste ano, os ladrões do site roubaram US$ 25 milhões de um funcionário do setor financeiro de uma multinacional de Hong Kong em uma multinacional de Hong Kong por meio de uma chamada de vídeo deepfake que usava vozes deepfake do CFO e de outros membros da equipe. Vídeos políticos deepfake têm sido usados para influenciar o resultado das eleiçõesincluindo a próxima eleição de 2024 nos EUA. Também foram criadas e usadas chamadas de voz falsas de políticos https://www.nytimes.com/2024/02/27/us/politics/ai-robocall-biden-new-hampshire.htmle causaram grande alvoroço.
A Pindrop vem pesquisando o assunto há oito anos e detém 25 patentes sobre detecção de áudio deepfake. Sua mais recente IA Pulse Inspect foi treinada em mais de 20 milhões de amostras de vozes reais e falsas. Amostras de vozes falsas de mais de 370 ferramentas de clonagem diferentes permitem altas taxas de detecção. A IA divide as amostras de voz em clipes de quatro segundos para análise, utilizando as características exclusivas de áudio de vários algoritmos de deepfake e características adicionais de áudio de vozes reais para identificar falsificações. Isso permite que o Pulse Inspect detecte falsificações em 90% das vezes quando confrontado com vozes clonadas de ferramentas de deepfake nunca antes encontradas e em 99% das vezes quando confrontado com vozes de ferramentas vistas anteriormente.
As empresas devem saber que o software de detecção de fraudes nunca é perfeito. Um teste recente do Pulse Inspect realizado pela NPR constatou que o software não categorizou corretamente as vozes reais e falsas em 3 das 84 amostras testadas. A taxa de falha de 3,6% deixa uma pequena chance de sucesso para os invasores, e as empresas devem sempre usar a defesa em profundidade para proteger seus ativos.
Os leitores que se preocupam com seus ativos e seus entes queridos devem proteger suas contas usando métodos de dois fatores, como códigos de acesso por mensagens de texto ou uma chave física de dois fatores(como esta da Amazon), e certificar-se de que os membros da família usem uma palavra ou frase secreta para verificar suas identidades durante chamadas suspeitas.
Fonte(s)
A Pindrop lança o Pulse Inspect: Uma solução de ponta para combater deepfakes e a disseminação de desinformação
O PindropⓇ PulseTM Inspect permite que a mídia, as redes sociais, as organizações sem fins lucrativos e os governos mantenham a integridade do conteúdo, identificando o áudio gerado por IA com 99% de precisão
Atlanta, GA - 15 de agosto de 2024 - A Pindrop, líder global em autenticação e segurança de voz desde 2011, anunciou hoje o lançamento do PindropⓇ PulseTM Inspect no Preview. Essa ferramenta inovadora, a mais recente adição à família de produtos PindropⓇ PulseTM de detecção de deepfake de ponta da Pindrop, pode detectar a fala gerada por IA em qualquer arquivo de áudio digital com 99% de precisão. Após o lançamento do Pindrop Pulse no início deste ano e o mais recente financiamento da Pindrop em julho, o Pindrop Pulse Inspect estende a tecnologia da Pindrop para além dos call centers, mas agora oferece um novo caso de uso para organizações de mídia, organizações sem fins lucrativos, agências governamentais e redes de mídia social. O Pulse Inspect analisa e verifica rapidamente se os arquivos de mídia contêm discurso sintético para que os clientes possam impedir proativamente a disseminação de informações incorretas e manter a credibilidade da marca.
A IA generativa levou a um aumento de deepfakes, o que representa uma séria ameaça à credibilidade organizacional. O Relatório de sentimento do consumidor sobre deepfakes e clones de voz da Pindrop estima que mais de 12 milhões de adultos norte-americanos conhecem alguém que teve deepfakes criados sem seu consentimento. Esses arquivos sintéticos costumam ser espalhados por plataformas como YouTube, TikTok, Instagram, Facebook e mídia de notícias. Para ajudar a evitar a exposição a essas ameaças em evolução, as organizações podem adotar essa tecnologia de ponta para proteger sua imagem pública e sua credibilidade. A solução Pulse da Pindrop aborda esse problema de frente, detectando deepfakes com precisão excepcional.
Ao adotar o Pulse Inspect, os usuários podem carregar arquivos de áudio na plataforma da Pindrop para determinar com rapidez e precisão se os arquivos contêm fala sintética. A Pindrop fornece pontuações imediatas de deepfake e visibilidade de partes específicas do arquivo que são identificadas como contendo artefatos sintéticos ou de deepfake, para que o usuário possa prestar mais atenção a esse segmento ao revisar e conduzir a análise. Com o Pulse Inspect, os usuários podem tomar medidas rápidas para proteger a integridade do conteúdo antes de distribuí-lo em qualquer plataforma pública de notícias, social ou de publicação on-line.
"Por mais de uma década, a Pindrop tem estado na vanguarda da inovação em autenticação e segurança de voz. Por exemplo, descobrimos o mecanismo TTS de origem usado no incidente do deepfake de Biden no início deste ano, e a necessidade crítica de mecanismos robustos de detecção de deepfake ficou clara em minhas conversas com dezenas de partes interessadas em todos os setores", disse o cofundador e CEO da Pindrop, Vijay Balasubramaniyan. "Hoje, estamos lançando o Pulse Inspect para estender nossa experiência em detecção de deepfake a organizações como mídia, organizações sem fins lucrativos, governos e redes de mídia social em um momento crucial da história. Com o Pulse Inspect, estamos capacitando as organizações a proteger a integridade de seu conteúdo e trazer a confiança de volta à era digital moderna."
O Pulse Inspect é alimentado pela avançada tecnologia de detecção de deepfake da Pindrop, que a NPR relatou ser 40 pontos percentuais mais eficaz do que o concorrente mais próximo em um estudo independente. A Pindrop treinou seu modelo de detecção de deepfake em mais de 350 ferramentas de geração de deepfake, mais de 20 milhões de declarações exclusivas e mais de 40 idiomas, cobrindo mais de 90% dos idiomas falados na Internet. Pontuações contínuas de deepfake são fornecidas a cada quatro segundos, permitindo a identificação de conteúdo sintético versus humano em mídias mistas. O rastreamento contínuo da vivacidade permite que o Pulse Inspect detecte quais segmentos do áudio são sintéticos e quais são genuínos, o que é particularmente útil quando apenas parte do áudio é um deepfake. Sua plataforma de processamento em lote orientada por API, fácil de usar, e sua interface de usuário simples fornecem uma análise clara (sintética versus não sintética) com limites ajustáveis com base na tolerância ao risco, economizando tempo, dinheiro e recursos.
"Como líder em voz sintética para Hollywood, a Respeecher estabeleceu diretrizes e políticas que garantem que nossa tecnologia não seja usada indevidamente, e continuamos comprometidos com o desenvolvimento ético pioneiro e o uso da tecnologia de clonagem de voz de IA", disse Alex Serdiuk, CEO e cofundador da Respeecher, parceira da Pindrop. "A tecnologia Pulse Inspect da Pindrop nos ajuda a garantir que nossa tecnologia de detecção permaneça à frente das ameaças de ataque de IA generativas. Estamos entusiasmados com o lançamento do Pindrop Pulse Inspect e esperamos colocar a tecnologia nas mãos de nossos clientes conjuntos para que eles possam examinar forensicamente qualquer áudio e determinar sua procedência sintética."
"Com as próximas eleições nos EUA e o crescimento dramático do áudio sintético gerado por IA que aparecerá nessas chamadas em 2024, o YouMail, um serviço de correio de voz visual e bloqueio de Robocall, reconhece o Pindrop Pulse Inspect como a solução ideal para detectar com precisão falsificações profundas em chamadas de voz", disse Mike Rudolph, diretor de tecnologia da YouMail. "A tecnologia da Pindrop não apenas resistiu a diferentes formatos de áudio, mas foi impressionantemente precisa em escala. Estamos entusiasmados com a parceria com a Pindrop para identificar os robocalls relacionados às eleições que são deepfakes, especialmente porque o volume dessas chamadas aumenta durante a época crítica das eleições nos EUA."
"A TrueMedia.org é um projeto de IA sem fins lucrativos e apartidário para combater a desinformação em campanhas políticas, identificando a mídia manipulada", disse Oren Etzioni, CEO da TrueMedia.org. "Nossa avaliação abrangente constatou que a detecção de deepfake de áudio da Pindrop tem melhor precisão do que outras alternativas na detecção de discurso sintético. Estamos entusiasmados com a parceria com a Pindrop nessa missão e com a inclusão da tecnologia de detecção de deepfake da Pindrop na solução para nossos clientes e usuários em todo o mundo."
