Apple e Google removeram aplicativos que prometiam nus deepfake da App Store e do Google Play, de acordo com um relatório da 404 Media.
Na semana passada, a 404 Media descobriu que o Instagram estava veiculando anúncios de aplicativos que usam inteligência artificial para gerar nus deepfake. Um desses anúncios usava uma foto de Kim Kardashian com o slogan “Desvista qualquer garota de graça. Experimente”. Esse serviço, e outros semelhantes, parecem permitir que os usuários façam upload de fotos reais de mulheres e gerem imagens falsas delas nuas. O relatório da 404 Media foi divulgado poucas semanas após o Meta tomar medidas para dificultar o envio e recebimento de nus através do Instagram Messenger, numa tentativa de proteger os usuários adolescentes de predadores.
Os nus deepfake têm sido um grande problema na era inicial da inteligência artificial generativa. Nudes gerados por inteligência artificial de Taylor Swift inundaram a internet em janeiro, com uma dessas fotos recebendo dezenas de milhões de visualizações e 24.000 repostagens. Nus deepfake de adolescentes em escolas em Nova Jersey, Washington e Califórnia provocaram investigações no final de 2023. Até agora, cerca de duas dúzias de estados americanos apresentaram legislação para reprimir o conteúdo gerado por inteligência artificial sexualmente explícito. No mês passado, dois adolescentes em Miami, Flórida, foram presos por usar aplicativos de “despir” para fazer nus de seus colegas e foram acusados de crimes de terceiro grau.
Não há uma lei federal sobre nus feitos por IA, mas senadores americanos apresentaram legislação em janeiro que permitiria que as vítimas processassem seus agressores.
“Embora as imagens possam ser falsas, o dano às vítimas da distribuição de deepfakes sexualmente explícitos é muito real”, disseram os senadores americanos Richard Durbin e Lindsey Graham em seu anúncio do projeto de lei apelidado de DEFIANCE Act. “As vítimas perderam seus empregos e podem sofrer depressão ou ansiedade contínuas.”
