Facebook, Instagram e Messenger hospedam milhares de anúncios para “namoradas” chatbots de inteligência artificial sexualmente explícitas, de acordo com um novo relatório. Os chatbots de inteligência artificial generativa interagem com os usuários e geram imagens e textos sugestivos. Eles também coletam muitos dados do usuário.
Wired revisou a biblioteca de anúncios da Meta, empresa mãe do Facebook e Instagram, e constatou que a empresa tem pelo menos 29.000 anúncios para chatbots de namoradas AI explicitamente publicados em suas plataformas de mídia social. A Meta não respondeu imediatamente a um pedido de comentário na manhã de segunda-feira. Mas a empresa disse à Wired que está revisando os anúncios e removendo aqueles que violam suas políticas.
“Ao identificarmos anúncios que violam, trabalhamos rapidamente para removê-los, como estamos fazendo aqui”, disse um porta-voz da Meta à Wired. “Continuamos a melhorar nossos sistemas, incluindo como detectamos anúncios e comportamentos que violam nossas políticas.”
O OpenAI lidou com um problema semelhante em janeiro, quando chatbots de namoradas de inteligência artificial invadiram sua nova loja GPT, se autodenominando como “Namorada Coreana”, “Doce Virtual”, “Sua namorada Scarlett” e “Sua namorada AI, Tsu✨.”
Assim como os anúncios de chatbots de namoradas de inteligência artificial causaram problemas para as plataformas, os anúncios de IA deepfakes nus também o fizeram. Na semana passada, a Apple e o Google disseram à 404 Media que eles removeram anúncios de aplicativos que usam IA para gerar deepfakes nus de suas lojas de aplicativos. Deepfakes nus têm sido um grande problema na era inicial da IA generativa, com nudes gerados por IA de Taylor Swift inundando as redes sociais em janeiro e deepfakes de adolescentes em escolas de New Jersey, Washington e Califórnia provocando investigações no final do ano passado. Atualmente, não há uma lei federal sobre deepfakes feitos por IA.
