A Apple e o Google removeram aplicativos que prometiam deepfake nudes da App Store e do Google Play, de acordo com um relatório da 404 Media.
Na semana passada, a 404 Media descobriu que o Instagram estava hospedando anúncios de aplicativos que usam inteligência artificial para gerar nudes deepfake. Um desses anúncios usava uma foto de Kim Kardashian com o slogan “Despida qualquer garota de graça. Experimente”. Esse serviço, e outros semelhantes, parecem permitir que os usuários carreguem fotos reais de mulheres e gerem fotos falsas delas nuas. O relatório da 404 Media veio semanas após a Meta tomar medidas para dificultar o envio e recebimento de nudes pelo Instagram Messenger, em um esforço que disse ser destinado a proteger os usuários adolescentes de predadores.
Nudes deepfake têm sido um grande problema na era inicial da inteligência artificial generativa. Nudes gerados por IA de Taylor Swift inundaram a internet em janeiro, com uma foto dessas recebendo dezenas de milhões de visualizações e 24.000 repostagens. Nudes deepfake de adolescentes em escolas em Nova Jersey, Washington e Califórnia provocaram investigações no final de 2023. Até agora, cerca de duas dezenas de estados dos EUA introduziram legislação para reprimir conteúdo gerado por IA sexualmente explícito. No mês passado, dois adolescentes em Miami, Flórida, foram presos por usar aplicativos chamados “despir” para criar nudes de seus colegas e foram acusados de felonias de terceiro grau.
Não há uma lei federal em vigor sobre nudes feitos por IA, mas senadores dos EUA introduziram legislação em janeiro que permitiria às vítimas processar seus agressores.
“Embora as imagens sejam falsas, o dano às vítimas pela distribuição de deepfakes sexualmente explícitos é muito real”, disseram os senadores americanos Richard Durbin e Lindsey Graham em seu anúncio do projeto de lei apelidado de DEFIANCE Act. “Vítimas perderam seus empregos e podem sofrer depressão ou ansiedade contínua.”
