O Instagram está inundado com centenas de influenciadores gerados por inteligência artificial que estão roubando vídeos de modelos reais e criadores de conteúdo adulto, dando a eles rostos gerados por inteligência artificial e monetizando seus corpos com links para sites de relacionamento, Patreon, concorrentes do OnlyFans e vários aplicativos de IA.
A prática, inicialmente relatada pela 404 Media em abril, explodiu em popularidade, mostrando que o Instagram não consegue ou não quer parar a inundação de conteúdo gerado por IA em sua plataforma e proteger os criadores humanos no Instagram que dizem estar competindo agora com conteúdo de IA de uma forma que está impactando sua capacidade de ganhar a vida.
De acordo com nossa análise de mais de 1.000 contas de Instagram geradas por IA, canais do Discord onde as pessoas que fazem esse conteúdo compartilham dicas e discutem estratégias, e vários guias que explicam como ganhar dinheiro com “pimping” de IA, agora é trivialmente fácil criar essas contas e monetizá-las usando uma variedade de ferramentas e aplicativos de IA prontos para uso. Alguns desses aplicativos estão hospedados nas lojas Apple App e Google Play. Nossa investigação mostra que o que antes era um problema de nicho na plataforma se industrializou em escala, e mostra o que as redes sociais podem se tornar em um futuro próximo: um espaço onde o conteúdo gerado por IA eclipsa o dos humanos.
Elaina St. James, uma criadora de conteúdo adulto que promove seu trabalho no Instagram, disse que ela e outros criadores de conteúdo adulto estão competindo diretamente com essas contas de plágio de IA, muitas das quais usam fotografias e vídeos roubados de criadores de conteúdo adulto e modelos do Instagram. Ela disse que embora possa haver outras mudanças no algoritmo do Instagram que podem ter contribuído para isso, desde a explosão de contas de influenciadores geradas por IA no Instagram, sua “alcance diminuiu tremendamente”, de um típico de 1 milhão a 5 milhões de visualizações por mês para não atingir a marca de um milhão nos últimos 10 meses, e às vezes chegando a menos de 500.000 visualizações.
“Isso provavelmente é uma das razões pelas quais minhas visualizações estão diminuindo”, disse St. James em entrevista. “É porque estou competindo com algo que é antinatural.”
Alexios Mantzarlis, diretor da iniciativa de segurança, confiança e segurança da Cornell Tech e ex-principal de inteligência de confiança e segurança do Google, compilou uma lista de cerca de 900 contas que a 404 Media revisou em sua investigação. Mantzarlis, que se deparou com uma dessas contas casualmente usando o Instagram, disse que começou a pesquisar as contas de influenciadores gerados por IA porque isso poderia mostrar aonde o conteúdo gerado por IA está levando as redes sociais e a internet de forma mais ampla, onde ele vê uma “realidade mista em ascensão”. Mantzarlis acredita que poderia ter facilmente encontrado mais 900 contas e que a única razão pela qual não encontrou mais é que o Instagram restringiu a conta que ele usava para coletar os dados da plataforma.
“Parecia um possível sinal de como as redes sociais vão ser daqui a cinco anos”, disse Mantzarlis em entrevista. “Porque isso pode estar chegando a outras partes da internet, não apenas ao nicho de pessoas atraentes no Instagram. Isso provavelmente é um sinal de que vai ser bem ruim.”
Contas
Das mais de 1.000 contas de influenciadores de Instagram geradas por IA que revisamos, 100 incluíam pelo menos algum conteúdo deepfake que pegava vídeos existentes, geralmente de modelos e artistas de entretenimento adulto, e substituía seus rostos por um rosto gerado por IA para fazer parecer que esses vídeos fossem novos, conteúdo original consistente com as outras imagens e vídeos gerados por IA compartilhados pelo influenciador gerado por IA. As outras 900 contas compartilhavam imagens que, em alguns casos, foram treinadas em fotografias reais e, em outros casos, feitas para se parecer com celebridades, mas eram totalmente geradas por IA, não fotografias ou vídeos editados.
Dessas 100 contas que compartilhavam vídeos deepfake ou com rostos trocados, 60 se identificavam como geradas por IA, escrevendo em suas biografias que são um “modelo e influenciador virtual” ou declarando “todas as fotos feitas com IA e aplicativos”. As outras 40 não incluem nenhum aviso de que são geradas por IA.
Uma das contas maiores desta última categoria é “Chloe Johnson”, que possui uma conta verificada no Instagram e 171.000 seguidores. Esta conta foi excluída pela Meta nas últimas semanas.
