Um site de loteria com inteligência artificial projetado para permitir aos usuários se imaginarem como vencedores do grande prêmio supostamente deu a uma usuária mais do que ela esperava, quando, em vez de fornecer uma divertida imagem gerada por IA dela mesma, ele gerou pornografia.
Na semana passada, uma mãe de 50 anos chamada Megan de Tumwater, uma cidade no norte do estado de Washington, decidiu visitar o novo site com inteligência artificial da Loteria de Washington chamado “Test Drive a Win”. Conforme explicado pela emissora, o site “Test Drive a Win” permitia aos usuários lançar um dardo em um painel com várias viagens dos sonhos que teoricamente poderiam comprar se ganhassem na loteria. Então, ele criava uma imagem gerada por IA deles na viagem, um “test drive”, usando uma foto que eles mesmos haviam enviado.
O dardo virtual que Megan, cujo sobrenome não foi revelado, lançou supostamente caiu em uma viagem onde a principal atração era nadar com tubarões. A mãe então tirou uma foto dela mesma e a enviou para o site para obter sua foto de viagem dos sonhos.
A foto supostamente gerada pela IA, que foi fornecida à emissora, não corresponde exatamente à solicitação. Em primeiro lugar, Megan está sentada em uma cama e parece estar cercada por peixes dourados gigantes. Havia também outro aspecto mais perturbador na foto: a mãe supostamente estava completamente nua.
Enquanto ela usava a parte de baixo de um biquíni, não usava a parte de cima. Além disso, a imagem gerada pela IA tinha o logotipo da Loteria de Washington no canto inferior.
Quando contatada pelo Gizmodo na quinta-feira, a Loteria de Washington afirmou que havia trabalhado em estreita colaboração com os desenvolvedores do site com inteligência artificial para estabelecer “parâmetros rígidos” em relação à criação de imagens. A entidade afirmou que recebeu relatos de uma única imagem gerada pelo site que não estava de acordo com as diretrizes estabelecidas, mas não confirmou se o relato que receberam era sobre a imagem de Megan.
“Fomos informados de que um único usuário da plataforma com IA supostamente recebeu uma imagem que não está de acordo com as diretrizes. Esta campanha foi lançada há mais de um mês e teve milhares de imagens criadas que estão todas dentro das diretrizes prescritas”, disse um porta-voz da Loteria de Washington em um comunicado por e-mail. “No entanto, um usuário supostamente é um número grande demais e, como resultado, desativamos o site.”
Até a tarde de quinta-feira, o jogo no site Test Drive a Win da Loteria de Washington não pôde ser acessado.
“Pedimos desculpas. O aplicativo Test Drive a Win está atualmente indisponível”, dizia uma mensagem no site.
Segundo o KTTH, Megan estava preocupada que a imagem pornográfica gerada por IA dela pudesse se tornar pública. É uma preocupação generalizada para as mulheres com o aumento da tecnologia de IA, que está tornando mais fácil do que nunca criar e compartilhar imagens e vídeos pornográficos falsos de pessoas. Recentemente, a IA foi usada para criar imagens pornográficas de Taylor Swift e de outras mulheres proeminentes.
