Facebook, Instagram e Messenger hospedam milhares de anúncios para chatbots de “namorada” de inteligência artificial explicitamente sexual, de acordo com um novo relatório. Os chatbots de inteligência artificial generativa interagem com usuários e geram imagens e textos sugestivos. Eles também coletam muitos dados do usuário.
A Wired revisou a biblioteca de anúncios da Meta, empresa mãe do Facebook e do Instagram, e descobriu que a empresa tem pelo menos 29.000 anúncios para chatbots de inteligência artificial de namoradas explícitas publicados em suas plataformas de mídia social. A Meta não respondeu imediatamente a um pedido de comentário na manhã de segunda-feira. No entanto, a empresa disse à Wired que está revisando os anúncios e removendo aqueles que violam sua política.
“Quando identificamos anúncios violadores, trabalhamos rapidamente para removê-los, como estamos fazendo aqui”, disse um porta-voz da Meta à Wired. “Continuamos a melhorar nossos sistemas, incluindo como detectamos anúncios e comportamentos que vão contra nossas políticas”.
A OpenAI lidou com um problema semelhante em janeiro, quando chatbots de namoradas de inteligência artificial inundaram sua nova loja GPT, autodenominando-se com nomes como “Namorada coreana”, “Doce virtual”, “Sua namorada Scarlett” e “Sua namorada de inteligência artificial, Tsu✨”.
Assim como os anúncios de chatbots de namoradas de inteligência artificial têm causado problemas para as plataformas, os anúncios de deepfake de nus de inteligência artificial também têm. Na semana passada, Apple e Google informaram à 404 Media que eles removeram anúncios para aplicativos que usam inteligência artificial para gerar deepfakes de nus de suas lojas de aplicativos. Deepfakes de nus têm sido um grande problema na era inicial da inteligência artificial generativa, com nus gerados por IA de Taylor Swift inundando as redes sociais em janeiro e deepfakes de adolescentes em escolas em Nova Jersey, Washington e Califórnia provocando investigações no final do ano passado. Atualmente, não existe uma lei federal que regule nus feitos por IA.
