O mundo está sendo despedaçado por deepfakes gerados por IA, e as mais recentes tentativas fracas de detê-los não estão fazendo nada. Reguladores federais proibiram chamadas robóticas deepfake na quinta-feira, como aquelas que se faziam passar pelo presidente Biden na eleição primária de New Hampshire. Enquanto isso, OpenAI e Google lançaram marcas-d’água esta semana para rotular imagens como geradas por IA. No entanto, essas medidas não têm a força necessária para impedir os deepfakes de IA.
“Estão aqui para ficar”, disse Vijay Balasubramaniyan, CEO da Pindrop, que identificou o ElevenLabs como o serviço usado para criar a chamada robótica falsa de Biden. “As tecnologias de detecção de deepfake precisam ser adotadas na origem, no ponto de transmissão e no destino. Isso simplesmente precisa acontecer em todos os lugares.”
Os esforços de prevenção de deepfakes são apenas superficiais. A proibição de chamadas robóticas deepfake pela Comissão Federal de Comunicações (FCC) é um passo na direção certa, segundo Balasubramaniyan, mas há pouca clareza sobre como isso será aplicado. Atualmente estamos capturando deepfakes após o dano feito e raramente punindo os responsáveis. Isso é muito lento, e não está abordando efetivamente o problema.
Enquanto isso, deepfakes do chefe de um trabalhador financeiro em Hong Kong o enganaram em $25 milhões. Foi um caso chocante que mostrou como a tecnologia de deepfake está borrando as fronteiras da realidade.
O problema dos deepfakes só vai piorar. Essas soluções simplesmente não são suficientes. O problema é que a tecnologia de detecção de deepfake é nova e não está se espalhando tão rapidamente quanto a IA generativa. Plataformas como o Meta, X e até mesmo a sua empresa de telefonia precisam abraçar a detecção de deepfake. Essas empresas estão fazendo manchetes sobre todos os seus novos recursos de IA, mas e quanto aos seus recursos de detecção de IA?
Se você estiver assistindo a um vídeo deepfake no Facebook, eles deveriam ter um aviso sobre isso. Se você receber uma ligação telefônica deepfake, seu provedor de serviços deveria ter um software para detectá-la. Essas empresas não podem simplesmente jogar a toalha, mas certamente estão tentando.
A tecnologia de detecção de deepfake também precisa melhorar muito e se tornar muito mais difundida. Atualmente, a detecção de deepfake não é 100% precisa para nada, de acordo com o CEO da Copyleaks, Alon Yamin. Sua empresa tem uma das melhores ferramentas para detectar texto gerado por IA, mas detectar fala e vídeo de IA é um desafio completamente diferente. A detecção de deepfake está atrasada em relação à IA generativa e precisa ser acelerada rapidamente.
Os deepfakes são verdadeiramente a nova desinformação, mas são muito mais convincentes. Há uma esperança de que a tecnologia e os reguladores estejam se aproximando para abordar esse problema, mas os especialistas concordam que os deepfakes só vão piorar antes de melhorar.
