Um site de loteria alimentado por inteligência artificial projetado para permitir que os usuários se visualizassem como vencedores do grande prêmio supostamente deu a uma usuária mais do que ela esperava quando, em vez de lhe fornecer uma divertida imagem gerada por IA de si mesma, ele gerou pornografia.
Na semana passada, uma mãe de 50 anos chamada Megan de Tumwater, uma cidade no estado norte de Washington, decidiu visitar o novo site com inteligência artificial da Loteria de Washington chamado “Test Drive a Win”. Conforme explicado pelo outlet, o site “Test Drive a Win” permite que os usuários joguem um dardo em um quadro com várias férias dos sonhos que poderiam teoricamente comprar se ganhassem na loteria. Em seguida, ele cria uma imagem gerada por IA deles na viagem, um “test drive”, usando uma foto que eles mesmos enviaram.
O virtual dardo que Megan, cujo sobrenome não foi revelado, jogou supostamente pousou em uma férias onde a principal atração era nadar com tubarões. A mãe prosseguiu tirando uma foto de si mesma e a enviou para o site para obter sua foto de férias dos sonhos.
A foto supostamente fornecida ao KTTH não corresponde exatamente ao solicitado. Primeiro, Megan está sentada em uma cama e parece estar cercada por peixes gigantes. Também havia outro aspecto mais perturbador na foto: a mãe estava supostamente completamente nua.
Enquanto ela usava uma parte de baixo de biquíni, ela não estava usando a parte de cima. Além disso, a imagem gerada por IA tinha o logotipo da Loteria de Washington no canto inferior.
Quando contatada pelo Gizmodo na quinta-feira, a Loteria de Washington afirmou que havia trabalhado em estreita colaboração com os desenvolvedores do site com inteligência artificial para estabelecer “parâmetros rígidos” em relação à criação de imagens. A entidade afirmou que recebeu um relatório de uma única imagem gerada pelo site que não estava de acordo com as orientações estabelecidas, mas não confirmou se o relatório que receberam era sobre a imagem de Megan.
“Nos informaram que um único usuário da plataforma de IA supostamente recebeu uma imagem que não estava em conformidade com essas diretrizes. Essa campanha foi lançada há mais de um mês e teve milhares de imagens criadas que todas seguem as diretrizes prescritas”, disse um porta-voz da Loteria de Washington em comunicado por e-mail. “No entanto, um usuário supostamente é demais e, como resultado, desativamos o site.”
Até a tarde de quinta-feira, o jogo no site Test Drive a Win da Loteria de Washington não podia ser acessado.
“Lamentamos. O aplicativo Test Drive a Win está atualmente indisponível”, dizia uma mensagem no site.
Segundo o KTTH, Megan estava preocupada que a imagem pornográfica gerada por IA dela pudesse ser divulgada. É uma preocupação generalizada para mulheres com o aumento da tecnologia de IA, que está tornando mais fácil do que nunca criar e compartilhar imagens e vídeos pornográficos falsos de pessoas. Mais recentemente, a IA tem sido usada para criar imagens pornográficas de Taylor Swift e de outras mulheres proeminentes.
