Um site de loteria com inteligência artificial projetado para permitir que os usuários se vejam como ganhadores do grande prêmio supostamente deu a uma usuária mais do que ela esperava, quando, em vez de lhe dar uma divertida imagem gerada por IA de si mesma, mostrou pornografia.
Na semana passada, uma mãe de 50 anos chamada Megan de Tumwater, uma cidade no estado de Washington, decidiu visitar o novo site com IA da Loteria de Washington chamado “Test Drive a Win”, de acordo com um relatório de uma estação de rádio conservadora KTTH. Conforme explicado pelo meio de comunicação, o site “Test Drive a Win” permite que os usuários lancem um dardo em um quadro com várias férias dos sonhos que teoricamente poderiam comprar se ganhassem na loteria. Ele então cria uma imagem gerada por IA deles na viagem, um “test drive”, usando uma foto que eles mesmos enviaram.
O dardo virtual que Megan, cujo sobrenome não foi revelado, supostamente acertou uma viagem onde a principal atração era nadar com tubarões. A mãe então tirou uma foto de si mesma e a enviou para o site para obter sua foto de férias dos sonhos.
A foto fornecida para o KTTH não corresponde exatamente à proposta. Em primeiro lugar, Megan está sentada em uma cama e parece estar rodeada por peixes gigantes dourados. Havia também outro aspecto, mais perturbador, na foto: a mãe estava, supostamente, completamente nua.
Embora ela estivesse usando a parte de baixo de um biquíni, ela não tinha a parte de cima. Além disso, a imagem gerada por IA tinha o logotipo da Loteria de Washington no canto inferior.
Quando questionada pelo Gizmodo na quinta-feira, a Loteria de Washington afirmou que havia trabalhado em estreita colaboração com os desenvolvedores do site com IA para estabelecer “parâmetros rígidos” em relação à criação de imagens. A entidade declarou ter recebido um relatório de uma única imagem gerada pelo site que não cumpria as diretrizes estabelecidas, mas não confirmou se o relatório que receberam era sobre a imagem de Megan.
“Ficamos sabendo que um único usuário da plataforma de IA supostamente recebeu uma imagem que não estava de acordo com essas diretrizes. Esta campanha foi lançada há mais de um mês e teve milhares de imagens criadas que estão dentro das diretrizes prescritas”, disse um porta-voz da Loteria de Washington em um comunicado por e-mail. “Independentemente disso, um usuário supostamente afetado é um número alto e, portanto, fechamos o site.”
Até a tarde de quinta-feira, o jogo no site “Test Drive a Win” da Loteria de Washington não podia ser acessado.
“Pedimos desculpas. O aplicativo Test Drive a Win está atualmente indisponível”, dizia uma mensagem no site.
De acordo com o KTTH, Megan estava preocupada que a imagem pornográfica gerada por IA dela pudesse ser tornada pública. É uma preocupação generalizada para as mulheres com o aumento da tecnologia de IA, que está tornando mais fácil do que nunca criar e compartilhar imagens e vídeos pornográficos falsos de pessoas. Recentemente, a IA tem sido usada para criar imagens pornográficas de Taylor Swift e de outras mulheres proeminentes.
