OpenAI anuncia ferramenta de clonagem de voz com controle estrito

A OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, revelou nesta sexta-feira, 29, uma nova ferramenta de clonagem de voz denominada Voice Engine. No entanto, a empresa planeja manter essa tecnologia sob rigoroso controle até que sejam implementadas medidas de segurança capazes de impedir falsificações de áudio destinadas a enganar os ouvintes.

Segundo informações divulgadas em um post no blog da OpenAI, o Voice Engine é capaz de replicar praticamente a voz de alguém com base em uma amostra de apenas 15 segundos. A empresa conduziu testes em pequena escala para demonstrar a capacidade da ferramenta.

"Reconhecemos que gerar fala que se assemelha às vozes das pessoas apresenta sérios riscos, que estão especialmente em destaque em um ano de eleições", afirmou a OpenAI, sediada em San Francisco, nos Estados Unidos.

Diante das preocupações com possíveis abusos da tecnologia, a empresa declarou estar colaborando com parceiros locais e internacionais de diversos setores, incluindo governos, mídia, entretenimento, educação e sociedade civil, para garantir que os feedbacks sejam incorporados na construção da ferramenta.

A disseminação de softwares de clonagem de voz baseados em inteligência artificial levanta preocupações entre pesquisadores da desinformação, especialmente em um ano eleitoral crucial. A facilidade de uso e a dificuldade de rastreamento dessas ferramentas tornam-nas particularmente propensas a abusos.

Reconhecendo esses desafios, a OpenAI afirmou adotar uma abordagem cautelosa e informada em relação ao lançamento mais amplo da ferramenta, devido ao potencial de uso indevido das vozes sintéticas.

O anúncio cauteloso ocorre alguns meses após um consultor político, que trabalhava para a campanha presidencial de um candidato improvável e rival democrata de Joe Biden, assumir a responsabilidade por uma ligação robótica fingindo ser o presidente americano.