Uma página da lotaria alimentada por IA, concebida para permitir aos utilizadores imaginar-se como vencedores do grande prémio, terá dado a uma utilizadora mais do que ela esperava, quando, em vez de lhe apresentar uma divertida imagem de si própria gerada por IA, lhe mostrou pornografia.
Na semana passada, uma mãe de 50 anos chamada Megan, de Tumwater, uma cidade no estado norte-americano de Washington, decidiu visitar o novo website alimentado por IA da Lotaria de Washington chamado “Test Drive a Win”. Conforme explicado pelo veículo, o website “Test Drive a Win” permite aos utilizadores atirar um dardo para um quadro com várias férias de sonho que poderiam teoricamente comprar se ganhassem na lotaria. Posteriormente, gera uma imagem gerada por IA deles na viagem, um “test drive”, utilizando uma foto que eles próprios carregaram.
O dardo virtual que Megan, cujo sobrenome não foi revelado, atirou alegadamente aterrou numa férias onde a principal atração era nadar com tubarões. A mãe prosseguiu e tirou uma foto de si mesma e carregou-a no site para obter a sua foto de férias de sonho.
A foto alegada, que foi fornecida à KTTH, não corresponde exatamente ao estímulo. Em primeiro lugar, Megan está sentada numa cama e parece estar rodeada de peixes dourados gigantes. Havia também um outro aspecto, mais perturbador, na foto: a mãe, alegadamente, estava completamente nua.
Embora estivesse com um fundo de biquíni, não estava com a parte de cima. Além disso, a imagem gerada por IA tinha o logótipo da Lotaria de Washington no canto inferior.
Quando contactada pelo Gizmodo na quinta-feira, a Lotaria de Washington afirmou que tinha trabalhado em estreita colaboração com os desenvolvedores do website alimentado por IA para estabelecer “parâmetros rigorosos” relativamente à criação de imagens. A entidade afirmou que recebeu um relatório de uma imagem gerada pelo website que não respeitava as diretrizes estabelecidas, mas não confirmou se o relatório que receberam era referente à imagem de Megan.
“Fomos informados de que um único utilizador da plataforma de IA terá alegadamente recebido uma imagem que não cumpria essas diretrizes. Esta campanha foi lançada há mais de um mês e teve milhares de imagens criadas que respeitam todas as diretrizes prescritas”, afirmou um porta-voz da Lotaria de Washington num comunicado enviado por email. “De qualquer forma, um único utilizador alegado é demasiado e, como resultado, encerrámos o site.”
Até à tarde de quinta-feira, o jogo no website “Test Drive a Win” da Lotaria de Washington não podia ser acedido.
“Lamentamos. A aplicação Test Drive a Win está atualmente indisponível”, dizia uma mensagem no website.
Segundo a KTTH, Megan estava preocupada que a imagem pornográfica gerada por IA dela pudesse ser tornada pública. É uma preocupação generalizada para as mulheres com o aumento da tecnologia de IA, que torna mais fácil do que nunca criar e partilhar imagens e vídeos pornográficos falsos de pessoas. Recentemente, a IA tem sido usada para criar imagens pornográficas de Taylor Swift e outras mulheres proeminentes.
