Facebook, Instagram e Messenger hospedam milhares de anúncios de chatbots de “namoradas” AI sexualmente explícitas, de acordo com um novo relatório. Os chatbots de inteligência artificial generativa interagem com os usuários e geram imagens e textos sugestivos. Eles também coletam muitos dados do usuário.
O Wired revisou a biblioteca de anúncios da Meta, empresa controladora do Facebook e Instagram, e constatou que a empresa tem pelo menos 29.000 anúncios para bots de “namoradas” AI explícitas publicados em suas plataformas de mídia social. A Meta não respondeu imediatamente a um pedido de comentário na segunda-feira de manhã. A empresa disse ao Wired que está revisando os anúncios e removendo aqueles que violam sua política.
“Quando identificamos anúncios violadores, trabalhamos rapidamente para removê-los, como estamos fazendo aqui”, disse um porta-voz da Meta ao Wired. “Continuamos a melhorar nossos sistemas, incluindo como detectamos anúncios e comportamentos que vão contra nossas políticas.”
A OpenAI lidou com um problema semelhante em janeiro, quando chatbots de “namoradas” AI inundaram sua nova loja GPT, se autodenominando nomes como “Namorada Coreana”, “Amor Virtual”, “Sua namorada Scarlett” e “Sua namorada AI, Tsu✨.”
Assim como os anúncios de chatbots de “namoradas” AI causaram problemas para as plataformas, também causaram anúncios de nudes AI deepfake. Na semana passada, a Apple e o Google informaram à 404 Media que eles removeram propagandas de aplicativos que usam AI para gerar deepfake nudes de suas lojas de aplicativos. Nudes deepfake têm sido um grande problema na era inicial da AI generativa, com nudes gerados por AI de Taylor Swift inundando as redes sociais em janeiro e deepfakes de adolescentes em escolas em Nova Jersey, Washington e Califórnia, provocando investigações no final do ano passado. Atualmente, não há nenhuma lei federal sobre nudes feitos por AI.
