Facebook, Instagram e Messenger hospedam milhares de anúncios de chatbots de “namoradas” AI sexualmente explícitos, de acordo com um novo relatório. Os chatbots de inteligência artificial generativa se envolvem com os usuários, geram imagens e textos sugestivos. Eles também coletam muitos dados do usuário.
A Wired analisou a biblioteca de anúncios da empresa matriz do Facebook e Instagram, Meta, e descobriu que a empresa tem pelo menos 29.000 anúncios para chatbots de “namoradas” AI explícitos publicados em suas plataformas de mídia social. Meta não respondeu imediatamente a um pedido de comentário na manhã de segunda-feira. Mas a empresa disse à Wired que está revisando os anúncios e removendo aqueles que violam sua política.
“Quando identificamos anúncios que violam, trabalhamos rapidamente para removê-los, como estamos fazendo aqui”, disse um porta-voz da Meta à Wired. “Continuamos a melhorar nossos sistemas, incluindo como detectamos anúncios e comportamentos que vão contra nossas políticas.”
A OpenAI lidou com um problema semelhante em janeiro, quando chatbots de “namoradas” AI invadiram sua nova loja GPT, se denominando nomes como “Namorada Coreana”, “Amante Virtual”, “Sua namorada Scarlett” e “Sua namorada de IA, Tsu✨.”
Assim como os anúncios de chatbots de “namoradas” AI causaram problemas para as plataformas, também causaram problemas os anúncios de deepfake AI nus. Na semana passada, a Apple e o Google disseram à 404 Media que removeram anúncios de aplicativos que usam AI para gerar deepfakes nus de suas lojas de aplicativos. Os nus deepfake têm sido um grande problema na era inicial de AI generativa, com nus gerados por AI de Taylor Swift inundando as mídias sociais em janeiro e deepfakes de meninas adolescentes em escolas em Nova Jersey, Washington e Califórnia provocando investigações no final do ano passado. Atualmente, não há nenhuma lei federal em vigor em relação a nus feitos por IA.
