Anúncios de Chatbots de Namoradas Virtuais de IA Estão Inundando o Facebook e o Instagram

Facebook, Instagram e Messenger hospedam milhares de anúncios de chatbots de “namoradas” de inteligência artificial explicitamente sexuais, de acordo com um novo relatório. Os chatbots de inteligência artificial geradora se envolvem com os usuários e geram imagens e textos sugestivos. Eles também coletam muitos dados do usuário.
Wired revisou a biblioteca de anúncios da Meta, empresa-mãe do Facebook e Instagram, e descobriu que a empresa tem pelo menos 29.000 anúncios para esses chatbots de “namoradas” de IA explicitamente sexuais publicados em suas plataformas de mídia social. A Meta ainda não respondeu imediatamente a um pedido de comentário na segunda-feira de manhã. Mas a empresa disse à Wired que está revisando os anúncios e removendo aqueles que violam sua política.
“Quando identificamos anúncios que violam, trabalhamos rapidamente para removê-los, como estamos fazendo aqui”, disse um porta-voz da Meta à Wired. “Continuamos a melhorar nossos sistemas, incluindo como detectamos anúncios e comportamentos que vão contra nossas políticas.”
A OpenAI enfrentou um problema semelhante em janeiro, quando chatbots de “namoradas” de IA inundaram sua nova loja GPT, chamando-se de nomes como “Namorada Coreana”, “Doce Virtual”, “Sua namorada Scarlett” e “Sua namorada de IA, Tsu✨.”
Assim como os anúncios de chatbots de “namorada” de IA causaram problemas para as plataformas, os anúncios de deepfakes de nus de IA também têm causado problemas. Na semana passada, Apple e Google disseram à 404 Media que removeram anúncios de aplicativos que usam IA para gerar deepfakes de nus de suas lojas de aplicativos. Os deepfakes de nus têm sido um grande problema na era inicial da IA geradora, com nus gerados por IA da Taylor Swift inundando as redes sociais em janeiro e deepfakes de meninas adolescentes em escolas de New Jersey, Washington e Califórnia provocando investigações no final do ano passado. Atualmente, não há nenhuma lei federal que aborde nus feitos por IA.