Todos os projetos do GitHub encontrados pela WIRED foram pelo menos parcialmente construídos em código ligado a vídeos no site de streaming de pornografia deepfake. Os repositórios existem como parte de uma teia de software de código aberto em toda a web que pode ser usado para criar deepfake pornô, mas por sua natureza aberta não pode ser controlado. Repos do GitHub podem ser copiados, conhecidos como “fork”, e a partir daí adaptados livremente por desenvolvedores.
“Quando olhamos para o abuso de imagens íntimas, a grande maioria das ferramentas e usos maliciosos têm vindo do espaço de código aberto”, diz Ajder. Mas muitas vezes começam com desenvolvedores bem-intencionados, diz ele. “Alguém cria algo que acham interessante ou legal e alguém com más intenções reconhece seu potencial malicioso e o transforma em uma arma.”
Alguns, como o repositório desativado em agosto, têm comunidades específicas ao redor deles para usos explícitos. O modelo se posicionou como uma ferramenta para deepfake pornô, afirma Ajder, tornando-se um “funil” para o abuso, que predominantemente tem como alvo mulheres.
Outros vídeos enviados para o site de streaming pornográfico por uma conta que credita modelos de inteligência artificial baixados do GitHub apresentavam os rostos de alvos populares de deepfake, celebridades como Emma Watson, Taylor Swift e Anya Taylor-Joy, bem como outras mulheres menos famosas, mas muito reais, superpostas em situações sexuais.
Os criadores descreviam livremente as ferramentas que usavam, incluindo duas removidas pelo GitHub, mas cujo código sobrevive em outros repositórios existentes.
Os perpetradores em busca de deepfakes se reúnem em muitos lugares online, incluindo em fóruns comunitários secretos no Discord e à vista de todos no Reddit, dificultando as tentativas de prevenção de deepfakes. Um Redditor ofereceu seus serviços usando o software do repositório arquivado em 29 de setembro. “Alguém poderia fazer com minha prima”, perguntou outro.
Torrents do principal repositório banido pelo GitHub em agosto também estão disponíveis em outros cantos da web, mostrando como é difícil policiar software de deepfake de código aberto em geral. Outras ferramentas de pornô deepfake, como o aplicativo DeepNude, foram igualmente retiradas do ar antes que novas versões surgissem.
“Há tantos modelos, tantos forks nos modelos, tantas versões diferentes, que pode ser difícil rastreá-los todos”, diz Elizabeth Seger, diretora de política digital no think tank do Reino Unido Demos. “Uma vez que um modelo é disponibilizado publicamente para download de código aberto, não há como fazer um retrocesso público disso”, acrescenta.
Um criador de pornografia deepfake com 13 vídeos explícitos manipulados de celebridades femininas creditou um repositório proeminente do GitHub comercializado como uma versão “NSFW” de outro projeto incentivando o uso responsável e pedindo explicitamente aos usuários para não usá-lo para nudez. “Aprendendo todas as AI disponíveis de Face Swap do GitHUB, não usando serviços online”, diz seu perfil no site.
O GitHub já havia desativado essa versão NSFW quando a WIRED identificou os vídeos de deepfake. Mas outros repositórios rotulados como versões “desbloqueadas” do modelo estavam disponíveis na plataforma em 10 de janeiro, incluindo um com 2.500 “estrelas”.
“É tecnicamente verdade que uma vez que [um modelo está] lá fora, não pode ser revertido. Mas ainda podemos dificultar o acesso das pessoas”, diz Seger.
