O Facebook, Instagram e Messenger hospedam milhares de anúncios de chatbots AI “namoradas” explicitamente sexuais, de acordo com um novo relatório. Os chatbots de inteligência artificial generativa interagem com os usuários, geram imagens e textos sugestivos, e também coletam muitos dados do usuário.
Uma revisão do Wired na biblioteca de anúncios da Meta, empresa controladora do Facebook e Instagram, descobriu que a empresa tem pelo menos 29.000 anúncios para chatbots AI de namoradas explícitas publicados em suas plataformas de mídia social. Meta não respondeu imediatamente a um pedido de comentário na manhã de segunda-feira. No entanto, a empresa disse ao Wired que está revisando os anúncios e removendo aqueles que violam suas políticas.
“Ao identificarmos anúncios que violam, trabalhamos rapidamente para removê-los, como estamos fazendo aqui”, disse um porta-voz da Meta ao Wired. “Continuamos a melhorar nossos sistemas, incluindo como detectamos anúncios e comportamentos que vão contra nossas políticas.”
A OpenAI lidou com um problema semelhante em janeiro, quando chatbots AI de namoradas inundaram sua nova loja GPT, se auto-denominando com nomes como “Namorada Coreana”, “Namorada Virtual”, “Sua namorada Scarlett” e “Sua namorada de AI, Tsu✨”.
Assim como os anúncios de chatbots de namoradas de IA têm causado problemas para as plataformas, também têm os anúncios de deepfakes de nus de IA. Na semana passada, Apple e Google disseram à 404 Media que eles removeram anúncios de aplicativos que usam IA para gerar deepfakes de nus de suas lojas de aplicativos. Deepfakes de nus têm sido um grande problema na era inicial de inteligência artificial generativa, com nus gerados por IA de Taylor Swift inundando as redes sociais em janeiro e deepfakes de adolescentes em escolas de Nova Jersey, Washington e Califórnia provocando investigações no final do ano passado. Atualmente, não há nenhuma lei federal sobre deepfakes feitos por IA.
