A Apple e o Google removeram aplicativos que prometiam deepfakes nus da App Store e do Google Play, de acordo com um relatório da 404 Media.
A 404 Media descobriu nesta semana que o Instagram estava exibindo anúncios de aplicativos que usam IA para gerar deepfakes nus. Um desses anúncios usava uma foto de Kim Kardashian com o slogan “Despindo qualquer garota de graça. Experimente”. Esse serviço e outros semelhantes parecem permitir aos usuários fazer upload de fotos reais de mulheres e gerar imagens falsas delas nuas. O relatório da 404 Media veio algumas semanas após a Meta tomar medidas para dificultar o envio e recebimento de nus pelo Instagram Messenger, numa tentativa de proteger os usuários adolescentes de predadores.
Os deepfakes nus têm sido um grande problema na era inicial da IA generativa. Em janeiro, deepfakes nus gerados por IA de Taylor Swift inundaram a internet, com uma dessas fotos recebendo dezenas de milhões de visualizações e 24.000 repostagens. Deepfakes nus de adolescentes em escolas em Nova Jersey, Washington e Califórnia levaram a investigações no final de 2023. Até agora, cerca de duas dezenas de estados dos EUA introduziram legislação para reprimir o conteúdo gerado por IA sexualmente explícito. No mês passado, dois adolescentes em Miami, Flórida, foram presos por usar aplicativos de “despir” para criar nus de seus colegas de classe e foram acusados de felonias de terceiro grau.
Não existe uma lei federal sobre deepfakes nus feitos por IA, mas senadores dos EUA introduziram legislação em janeiro que permitiria às vítimas processar seus agressores.
“Embora as imagens sejam falsas, o dano às vítimas pela distribuição de deepfakes sexualmente explícitos é muito real”, afirmaram os senadores dos EUA Richard Durbin e Lindsey Graham em seu anúncio do projeto de lei apelidado de DEFIANCE Act. “Vítimas perderam seus empregos e podem sofrer depressão ou ansiedade contínua.”
