Apple e Google removeram aplicativos que prometiam deepfakes de nus da App Store e da Google Play, de acordo com um relatório da 404 Media.
A 404 Media encontrou esta semana que o Instagram estava hospedando anúncios de aplicativos que usam IA para gerar deepfakes de nus. Um desses anúncios usou uma imagem de Kim Kardashian com o slogan “Despisse qualquer garota gratuitamente. Experimente”. Esse serviço, e outros semelhantes, parecem permitir aos usuários enviar fotos reais de mulheres e gerar imagens falsas delas nuas. O relatório da 404 Media veio semanas após o Meta tomar medidas para dificultar o envio e recebimento de nus pelo Messenger do Instagram, em um esforço para proteger os usuários adolescentes de predadores.
Deepfakes de nus têm sido um grande problema na era inicial da IA generativa. Nus gerados por IA de Taylor Swift inundaram a internet em janeiro, com uma foto dessas recebendo dezenas de milhões de visualizações e 24.000 repostagens. Deepfakes de adolescentes em escolas de Nova Jersey, Washington e Califórnia levaram a investigações no final de 2023. Até agora, cerca de duas dezenas de estados dos EUA introduziram legislação para reprimir o conteúdo explícito gerado por IA. No mês passado, dois adolescentes em Miami, Flórida, foram presos por usar aplicativos de “despir” para criar nus de seus colegas e foram acusados de felonias de terceiro grau.
Não há uma lei federal sobre nus feitos por IA, mas senadores dos EUA introduziram legislação em janeiro que permitiria às vítimas processar seus agressores.
“Embora as imagens possam ser falsas, o dano às vítimas pela distribuição de deepfakes sexualmente explícitos é muito real”, disseram os senadores americanos Richard Durbin e Lindsey Graham em seu anúncio do projeto de lei chamado DEFIANCE Act. “As vítimas perderam seus empregos, e podem sofrer depressão ou ansiedade contínua.”
