Todos os projetos do GitHub encontrados pela WIRED foram pelo menos parcialmente construídos com código vinculado a vídeos no site de streaming de pornografia deepfake. Os repositórios existem como parte de uma teia de softwares open source pela web que podem ser usados para criar pornografia deepfake, mas, por sua natureza aberta, não podem ser controlados. Os repositórios do GitHub podem ser copiados, conhecidos como um “fork”, e a partir daí personalizados livremente pelos desenvolvedores.
“Quando olhamos para o abuso de imagens íntimas, a grande maioria das ferramentas e usos armados vêm do espaço open source”, diz Ajder. Mas muitas vezes começam com desenvolvedores bem-intencionados, diz ele. “Alguém cria algo que acha interessante ou legal e alguém com más intenções reconhece seu potencial malicioso e o transforma em uma arma.”
Algumas, como o repositório desativado em agosto, têm comunidades específicas ao redor delas para usos explícitos. O modelo se posicionou como uma ferramenta para pornografia deepfake, afirma Ajder, tornando-se um “funil” para abuso, que predominantemente tem como alvo mulheres.
Outros vídeos enviados para o site de streaming de pornografia por uma conta que credita modelos de IA baixados do GitHub apresentaram os rostos de alvos populares de deepfake, como as celebridades Emma Watson, Taylor Swift e Anya Taylor-Joy, bem como outras mulheres menos famosas, mas muito reais, sobrepostas em situações sexuais.
Os criadores descreveram livremente as ferramentas que utilizaram, incluindo duas excluídas pelo GitHub, mas cujo código sobrevive em outros repositórios existentes.
Os perpetradores em busca de deepfakes se reúnem em muitos lugares online, incluindo fóruns da comunidade no Discord e à vista de todos no Reddit, dificultando os esforços de prevenção de deepfake. Um Redditor ofereceu seus serviços usando o software do repositório arquivado em 29 de setembro. “Alguém poderia fazer da minha prima”, perguntou outro.
Torrents do repositório principal banido pelo GitHub em agosto também estão disponíveis em outros cantos da web, mostrando como é difícil policiar o software de deepfake open source em geral. Outras ferramentas de pornografia deepfake, como o aplicativo DeepNude, foram igualmente retiradas antes que novas versões surgissem.
“Há tantos modelos, tantos forks nos modelos, tantas versões diferentes, que pode ser difícil rastrear todos eles”, diz Elizabeth Seger, diretora de políticas digitais no think tank Demos do Reino Unido. “Uma vez que um modelo é disponibilizado para download publicamente open source, não há como reverter isso publicamente”, acrescenta.
Um criador de pornografia deepfake com 13 vídeos explícitos manipulados de celebridades femininas creditou um proeminente repositório do GitHub comercializado como uma versão “NSFW” de outro projeto encorajando o uso responsável e pedindo explicitamente aos usuários para não usá-lo para nudez. “Aprendendo todas as Face Swaps AI disponíveis do GitHub, não usando serviços online”, diz o perfil deles no site pornô, com desfaçatez.
O GitHub já havia desativado esta versão NSFW quando a WIRED identificou os vídeos deepfake. Mas outros repositórios rotulados como versões “desbloqueadas” do modelo estavam disponíveis na plataforma em 10 de janeiro, incluindo um com 2.500 “estrelas”.
“Tecnicamente é verdade que uma vez [um modelo] está lá fora não pode ser revertido. Mas ainda podemos dificultar o acesso das pessoas”, diz Seger.
