Um site de loteria com inteligência artificial projetado para permitir que os usuários se imaginem como vencedores do grande prêmio aparentemente deu a uma usuária mais do que ela esperava, ao invés de lhe fornecer uma divertida imagem gerada por IA de si mesma, acabou gerando pornografia.
Na semana passada, uma mãe de 50 anos chamada Megan, de Tumwater, uma cidade no norte do estado de Washington, decidiu visitar o novo site da loteria de Washington chamado “Test Drive a Win”, de acordo com um relatório de uma estação de rádio conservadora. Como explicado pela emissora, o site “Test Drive a Win” permite que os usuários joguem um dardo em um quadro com várias viagens dos sonhos que teoricamente poderiam comprar se ganhassem na loteria. Em seguida, cria uma imagem gerada por IA deles na viagem, um “test drive”, usando uma foto que eles mesmos enviaram.
O dardo virtual que Megan, cujo sobrenome não foi revelado, jogou supostamente caiu em uma viagem em que a principal atração era nadar com tubarões. A mãe tirou uma foto de si mesma e a enviou para o site para obter sua foto da viagem dos sonhos.
A foto fornecida à emissora não corresponde exatamente à solicitação. Primeiramente, Megan está sentada em uma cama e parece estar cercada por peixes gigantes. Havia também outro aspecto mais perturbador na foto: a mãe estava supostamente completamente nua.
Embora estivesse com a parte de baixo de um biquíni, ela não estava com a parte de cima. Além disso, a imagem gerada pela IA tinha o logotipo da Loteria de Washington no canto inferior.
Ao ser contatada pelo Gizmodo na quinta-feira, a Loteria de Washington afirmou que trabalhou em estreita colaboração com os desenvolvedores do site com IA para estabelecer “parâmetros rigorosos” em relação à criação de imagens. A entidade afirmou que recebeu um relatório de uma única imagem gerada pelo site que não estava de acordo com as diretrizes estabelecidas, mas não confirmou se o relatório recebido era sobre a imagem de Megan.
“Tomamos conhecimento de que um único usuário da plataforma de IA supostamente recebeu uma imagem que não cumpria essas diretrizes. Essa campanha foi lançada há mais de um mês e teve milhares de imagens criadas que estão dentro das diretrizes estabelecidas”, afirmou um porta-voz da Loteria de Washington em comunicado por e-mail. “No entanto, um suposto usuário já é demais e, portanto, encerramos o site.”
Até a tarde de quinta-feira, o jogo no site Test Drive a Win da Loteria de Washington não pôde ser acessado.
“Pedimos desculpas. O aplicativo Test Drive a Win está atualmente indisponível”, dizia uma mensagem no site.
Segundo informações, Megan estava preocupada que a imagem pornográfica gerada pela IA dela pudesse se tornar pública. É uma preocupação comum para as mulheres com o aumento da tecnologia de IA, que tornou mais fácil do que nunca criar e compartilhar imagens pornográficas falsas de pessoas. Recentemente, a IA foi usada para criar imagens pornográficas de Taylor Swift e de outras mulheres proeminentes.
