Um site de loteria com inteligência artificial projetado para permitir que os usuários se vejam como vencedores do grande prêmio supostamente deu a uma usuária mais do que ela esperava, quando, em vez de lhe fornecer uma divertida imagem gerada por IA dela mesma, produziu pornografia.
Na semana passada, uma mãe de 50 anos chamada Megan, de Tumwater, uma cidade no norte do estado de Washington, decidiu visitar o novo site com inteligência artificial da Loteria de Washington chamado “Test Drive a Win”. Conforme explicado pelo veículo, o site permite que os usuários lancem um dardo em um quadro com várias férias dos sonhos que teoricamente poderiam comprar se ganhassem na loteria. Em seguida, cria uma imagem gerada por IA deles na viagem, um “test drive”, usando uma foto que eles mesmos enviaram.
O dardo virtual que Megan, cujo sobrenome não foi revelado, lançou supostamente pousou em uma viagem onde a principal atração era nadar com tubarões. A mãe então tirou uma foto de si mesma e a enviou para o site para obter sua foto de férias dos sonhos.
A foto fornecida ao KTTH não corresponde exatamente à solicitação. Primeiramente, Megan está sentada em uma cama e parece estar cercada por peixes-dourados gigantes. Havia também outro aspecto mais perturbador na foto: a mãe estava supostamente completamente nua.
Embora ela estivesse com a parte de baixo do biquíni, não estava com a parte de cima. Além disso, a imagem gerada por IA tinha o logotipo da Loteria de Washington no canto inferior.
Ao ser contatada pelo Gizmodo na quinta-feira, a Loteria de Washington afirmou que havia trabalhado em estreita colaboração com os desenvolvedores do site com inteligência artificial para estabelecer “parâmetros rígidos” em relação à criação de imagens. A entidade afirmou ter recebido um relatório de uma única imagem gerada pelo site que não estava em conformidade com as diretrizes estabelecidas, mas não confirmou se o relatório que receberam era sobre a imagem de Megan.
“Tomamos conhecimento de que um único usuário da plataforma de IA supostamente recebeu uma imagem que não cumpria essas diretrizes. Esta campanha foi lançada há mais de um mês e teve milhares de imagens criadas que seguem todas as diretrizes prescritas”, afirmou um porta-voz da Loteria de Washington em comunicado por e-mail. “De qualquer forma, um usuário suposto é um número alto demais e, como resultado, fechamos o site.”
Até a tarde de quinta-feira, o jogo no site “Test Drive a Win” da Loteria de Washington não podia mais ser acessado.
“Lamentamos. O aplicativo Test Drive a Win está atualmente indisponível”, dizia uma mensagem no site.
Segundo o KTTH, Megan estava preocupada que a imagem pornográfica gerada por IA dela pudesse ser tornada pública. É uma preocupação generalizada para mulheres com o aumento da tecnologia de IA, que está tornando mais fácil do que nunca criar e compartilhar imagens e vídeos pornográficos falsos de pessoas. Recentemente, a IA tem sido usada para criar imagens pornográficas de Taylor Swift e de outras mulheres proeminentes.
