O Facebook, Instagram e Messenger hospedam milhares de anúncios de chatbots sexualmente explícitos “namoradas” de IA, de acordo com um novo relatório. Os chatbots de inteligência artificial generativos interagem com os usuários e geram imagens e textos sugestivos. Eles também coletam muitos dados do usuário.
O Wired revisou a biblioteca de anúncios da Meta, empresa controladora do Facebook e Instagram, e descobriu que a empresa tem pelo menos 29.000 anúncios de chatbots de namoradas de IA explícitos publicados em suas plataformas de mídia social. A Meta não respondeu imediatamente a um pedido de comentário na segunda-feira de manhã. Mas a empresa disse ao Wired que está revisando os anúncios e removendo aqueles que violam sua política.
“Ao identificarmos anúncios violadores, trabalhamos rapidamente para removê-los, como estamos fazendo aqui”, disse um porta-voz da Meta ao Wired. “Continuamos a melhorar nossos sistemas, incluindo como detectamos anúncios e comportamentos que vão contra nossas políticas.”
A OpenAI lidou com um problema semelhante em janeiro, quando chatbots de namoradas de IA inundaram sua nova loja GPT, se autodenominando com nomes como “Namorada Coreana”, “Querida Virtual”, “Sua namorada Scarlett” e “Sua namorada de IA, Tsu✨.”
Assim como os anúncios de chatbots de namoradas de IA causaram problemas para as plataformas, o mesmo aconteceu com os anúncios de nus deepfake de IA. Na semana passada, Apple e Google disseram à 404 Media que removeram anúncios de aplicativos que usam IA para gerar deepfakes de nudez de suas lojas de aplicativos. Deepfakes de nus têm sido um grande problema na era inicial da IA generativa, com nus gerados por IA de Taylor Swift inundando as mídias sociais em janeiro e deepfakes de meninas adolescentes em escolas de Nova Jersey, Washington e Califórnia causando investigações no final do ano passado. Atualmente não há uma lei federal em vigor sobre nus feitos por IA.
