Todos os projetos do GitHub encontrados pela WIRED foram, pelo menos em parte, construídos com base em código vinculado a vídeos no site de streaming de pornografia deepfake. Os repositórios existem como parte de uma teia de software de código aberto na web que pode ser usado para criar pornografia deepfake, mas por sua natureza aberta não pode ser controlado. Os repositórios do GitHub podem ser copiados, conhecidos como “fork”, e daí adaptados livremente pelos desenvolvedores.
“Quando olhamos para o abuso de imagens íntimas, a grande maioria das ferramentas e usos armados vêm do espaço de código aberto”, diz Ajder. Mas muitas vezes começam com desenvolvedores bem intencionados, diz ele. “Alguém cria algo que considera interessante ou legal e alguém com más intenções reconhece seu potencial malicioso e o transforma em uma arma”.
Alguns, como o repositório desativado em agosto, possuem comunidades específicas ao seu redor para usos explícitos. O modelo se posicionou como uma ferramenta para pornografia deepfake, afirma Ajder, tornando-se um “funil” para abuso, que predominantemente tem como alvo mulheres.
Outros vídeos enviados para o site de streaming de pornografia por uma conta que creditava modelos de IA baixados do GitHub exibiam os rostos de alvos populares de deepfake, como as celebridades Emma Watson, Taylor Swift e Anya Taylor-Joy, bem como outras mulheres menos famosas mas muito reais, superpostas em situações sexuais.
Os criadores descreveram livremente as ferramentas que usaram, incluindo duas removidas pelo GitHub, mas cujo código ainda está em outros repositórios existentes.
Os perpetradores em busca de deepfakes se reúnem em muitos lugares online, incluindo em fóruns comunitários secretos no Discord e à vista de todos no Reddit, complicando as tentativas de prevenção de deepfake. Um Redditor ofereceu seus serviços usando o software do repositório arquivado em 29 de setembro. “Alguém poderia fazer pela minha prima”, perguntou outro.
Torrents do principal repositório banido pelo GitHub em agosto também estão disponíveis em outros cantos da web, mostrando o quão difícil é controlar o software de deepfake de código aberto em geral. Outras ferramentas de pornografia deepfake, como o app DeepNude, também foram retiradas do ar antes que novas versões surgissem.
“Há tantos modelos, tantos forks nos modelos, tantas versões diferentes, que pode ser difícil rastreá-los todos”, diz Elizabeth Seger, diretora de políticas digitais do think tank britânico Demos. “Uma vez que um modelo é tornando publicamente disponível para download, não há como retroceder publicamente”, acrescenta ela.
Um criador de pornografia deepfake com 13 vídeos explícitos manipulados de celebridades femininas creditou um repositório do GitHub proeminente comercializado como uma versão “NSFW” de outro projeto incentivando o uso responsável e pedindo explicitamente aos usuários que não o usem para nudez. “Aprendendo todos os rostos disponíveis do Face Swap AI do GitHUB, não usando serviços online”, diz o perfil deles no site de vídeos, descaradamente.
O GitHub já havia desativado esta versão NSFW quando a WIRED identificou os vídeos deepfake. Mas outros repositórios, rotulados como versões “desbloqueadas” do modelo, estavam disponíveis na plataforma em 10 de janeiro, incluindo um com 2.500 “estrelas”.
“É tecnicamente verdade que uma vez [um modelo está] disponível, não pode ser revertido. Mas ainda podemos dificultar o acesso das pessoas”, diz Seger.
