Todos os projetos do GitHub encontrados pela WIRED foram construídos, pelo menos parcialmente, com base em códigos vinculados a vídeos no site de streaming de deepfake pornográfico. Os repositórios existem como parte de uma teia de software de código aberto na web que pode ser usado para criar deepfake pornográfico, mas por sua natureza aberta não pode ser controlado. Os repositórios do GitHub podem ser copiados, conhecidos como “fork”, e a partir daí adaptados livremente pelos desenvolvedores.
“Quando olhamos para o abuso de imagens íntimas, a grande maioria das ferramentas e uso de armas vieram do espaço de código aberto”, diz Ajder. Mas muitas vezes começam com desenvolvedores bem intencionados, ele diz. “Alguém cria algo que acha interessante ou legal e alguém com más intenções reconhece seu potencial malicioso e o utiliza como arma.”
Alguns, como o repositório desativado em agosto, têm comunidades especializadas em torno deles para usos explícitos. O modelo se posicionou como uma ferramenta para deepfake pornográfico, afirma Ajder, tornando-se um “funil” para o abuso, que tem como alvo predominantemente mulheres.
Outros vídeos enviados para o site de streaming de pornografia por uma conta que credita modelos de IA baixados do GitHub apresentavam os rostos de alvos populares de deepfake, celebridades como Emma Watson, Taylor Swift e Anya Taylor-Joy, além de outras mulheres menos famosas, mas muito reais, superpostas em situações sexuais.
Os criadores descreveram livremente as ferramentas que utilizaram, incluindo duas excluídas pelo GitHub, mas cujo código sobrevive em outros repositórios existentes.
Os perpetradores em busca de deepfakes se reúnem em muitos lugares online, incluindo fóruns comunitários clandestinos no Discord e à vista no Reddit, dificultando as tentativas de prevenção de deepfakes. Um Redditor ofereceu seus serviços usando o software do repositório arquivado em 29 de setembro. “Alguém poderia fazer com minha prima”, perguntou outro.
Torrents do repositório principal banido pelo GitHub em agosto também estão disponíveis em outros cantos da web, mostrando como é difícil controlar o software de deepfake de código aberto em geral. Outras ferramentas de pornografia deepfake, como o aplicativo DeepNude, foram igualmente desativadas antes que novas versões surgissem.
“Há tantos modelos, tantos forks nos modelos, tantas versões diferentes, pode ser difícil rastrear todos eles”, diz Elizabeth Seger, diretora de política digital no think tank transpartidário do Reino Unido, Demos. “Uma vez que um modelo é disponibilizado publicamente para download de código aberto, não há como reverter isso publicamente”, acrescenta.
Um criador de pornografia deepfake com 13 vídeos explícitos manipulados de celebridades femininas creditou um repositório proeminente do GitHub comercializado como uma versão “NSFW” de outro projeto incentivando o uso responsável e pedindo explicitamente aos usuários que não o usem para nudez. “Aprendendo todas as Inteligências Artificiais de Troca de Rosto do GitHUB disponíveis, sem usar serviços online”, diz seu perfil no site pornográfico, audaciosamente.
O GitHub já havia desativado esta versão NSFW quando a WIRED identificou os vídeos deepfake. Mas outros repositórios rotulados como versões “desbloqueadas” do modelo estavam disponíveis na plataforma em 10 de janeiro, incluindo um com 2.500 “estrelas”.
“É tecnicamente verdade que uma vez [um modelo] está lá fora, não pode ser revertido. Mas ainda podemos dificultar o acesso das pessoas”, diz Seger.
