Uma dupla de alemães desenvolveu uma câmera fotográfica com inteligência artificial capaz de usar a geração de IA para remover instantaneamente as roupas das pessoas presentes na imagem. O polêmico dispositivo, de acordo com seus criadores, é uma crítica ao caminho que a IA vem seguindo nos últimos anos.
Mathias Vef e Benedisk Groß, idealizadores do polêmico projeto NUCA, garantem que o produto nunca estará à venda, embora tenham investido muito em ações publicitárias para divulgá-lo ao público.
Quando o usuário pressiona o botão de captura da câmera, que possui uma lente de 37 milímetros, o arquivo é enviado automaticamente para um servidor. Em seguida, faz uma análise e gera um relatório do conteúdo em texto, contendo informações como idade aproximada, gênero e etnia da pessoa.
Logo depois, um modelo de IA recebe essas informações como um prompt e gera a imagem de um corpo nu, ao mesmo tempo em que recorta a cabeça da foto original e a coloca no novo conteúdo.
A câmera fotográfica utiliza a Stable Diffusion e a polêmica Civitai AI, que tem sido acusada de lucrar com nudez não consensual, para gerar as imagens de nudez.
Vef ressaltou em entrevista ao 404 Media que a nudez gerada por IA é um assunto delicado e um dos grandes problemas de nosso tempo. A dupla decidiu investir no projeto para provocar a sociedade sobre a forma como a tecnologia tem sido aplicada.
Ele citou o recente caso em que a cantora americana Taylor Swift foi representada em imagens geradas por IA sem roupa. As fotos viralizaram e foram amplamente compartilhadas em redes sociais, como o Twitter, por exemplo.
Outro caso citado pelos desenvolvedores ocorreu anteriormente em Almendralejo, uma pequena cidade no sudoeste da Espanha. Lá, pelo menos 20 meninas entre 11 e 17 anos foram vítimas do ClothOff, um software de inteligência artificial que manipula imagens e deixa as pessoas sem roupa, sendo os responsáveis por criar esse conteúdo os próprios colegas de escola.
No site oficial da NUCA, os criadores destacam que a câmera une o fotógrafo e o “modelo”, mostrando o resultado imediatamente, e acaba com o anonimato proporcionado por perfis falsos em plataformas de redes sociais.
Os criadores também esperam que o dispositivo possa gerar discussões sobre padrões de beleza e reprodução de vieses algorítmicos. Por fim, a câmera será exibida na exposição “Uncanny in the Nuud”, programada para ocorrer em Berlim, em 29 de junho.
