A Apple e o Google removeram aplicativos que prometiam deepfakes nus da App Store e do Google Play, de acordo com um relatório da 404 Media.
A 404 Media encontrou anteriormente esta semana que o Instagram estava hospedando anúncios para aplicativos que usavam inteligência artificial para gerar deepfakes nus. Um desses anúncios usava uma foto de Kim Kardashian com o slogan “Despiste qualquer garota de graça. Experimente.” Esse serviço, e outros semelhantes, parecem permitir aos usuários enviar fotos reais de mulheres e gerar imagens falsas delas nuas. O relatório da 404 Media ocorreu apenas algumas semanas depois que o Meta tomou medidas para dificultar o envio e recebimento de nus pelo Instagram Messenger, em um esforço que disse ser destinado a proteger os usuários adolescentes de predadores.
Deepfakes de nus têm sido um grande problema na era inicial da inteligência artificial generativa. Em janeiro, deepfakes de nus gerados por IA da Taylor Swift inundaram a internet, com uma foto dessas recebendo dezenas de milhões de visualizações e 24.000 repostagens. Deepfakes de nus de adolescentes em escolas de Nova Jersey, Washington e Califórnia provocaram investigações no final de 2023. Até agora, cerca de duas dezenas de estados dos EUA introduziram legislação para reprimir conteúdo de IA gerado sexualmente explícito. E no mês passado, dois adolescentes em Miami, Flórida, foram presos por usar aplicativos “despiste” para criar nus de seus colegas de classe, e foram acusados de crimes graves de terceiro grau.
Não há uma lei federal sobre deepfakes feitos por IA, mas senadores dos EUA introduziram legislação em janeiro que permitiria que as vítimas processassem seus perpetradores.
“Embora as imagens possam ser falsas, o dano às vítimas pela distribuição de deepfakes sexualmente explícitos é muito real”, disseram os senadores dos EUA Richard Durbin e Lindsey Graham em seu anúncio do projeto de lei apelidado de DEFIANCE Act. “As vítimas perderam seus empregos e podem sofrer depressão ou ansiedade contínua.”
