Site de Loteria de Inteligência Artificial Derrubado por Produzir uma Imagem NSFW de um Usuário.

Um site de loteria alimentado por inteligência artificial projetado para permitir que os usuários se vejam como vencedores do grande prêmio supostamente deu a uma usuária mais do que ela esperava, quando, em vez de lhe fornecer uma divertida imagem gerada por IA dela mesma, acabou gerando pornografia. Na semana passada, uma mãe de 50 anos chamada Megan de Tumwater, uma cidade no estado de Washington, decidiu visitar o novo site da Loteria de Washington chamado “Test Drive a Win”. Como explicado, o site permite que os usuários joguem um dardo em um quadro com várias opções de viagens dos sonhos que teoricamente poderiam comprar se ganhassem na loteria. Ele então cria uma imagem gerada por IA deles na viagem, um “test drive”, usando uma foto que eles mesmos enviaram. Megan supostamente jogou o dardo virtual em uma viagem onde a principal atração era nadar com tubarões. Ela então tirou uma foto de si mesma e a enviou para o site para obter sua foto da viagem dos sonhos. A foto fornecida não corresponde exatamente ao que foi solicitado. Em primeiro lugar, Megan está sentada em uma cama e parece estar cercada por peixes gigantes. Além disso, havia outro aspecto mais perturbador na foto: a mãe supostamente estava completamente nua. Apesar de usar a parte de baixo de um biquíni, ela não usava a parte de cima. Além disso, a imagem gerada por IA tinha o logo da Loteria de Washington no canto inferior. Quando contatada pelo Gizmodo na quinta-feira, a Loteria de Washington afirmou que trabalhou de perto com os desenvolvedores do site alimentado por IA para estabelecer “parâmetros estritos” em relação à criação de imagens. A entidade afirmou que recebeu um relatório de uma única imagem gerada pelo site que não estava de acordo com as diretrizes estabelecidas, mas não confirmou se o relatório recebido era sobre a imagem de Megan. “Fomos informados de que um único usuário da plataforma de IA supostamente recebeu uma imagem que não estava de acordo com essas diretrizes. Essa campanha foi lançada há mais de um mês e teve milhares de imagens criadas que estão dentro das diretrizes prescritas”, afirmou um porta-voz da Loteria de Washington em comunicado por e-mail. “Independentemente disso, um usuário suposto já é um número alto e, como resultado, encerramos o site.” A partir da tarde de quinta-feira, o jogo no site de “Test Drive a Win” da Loteria de Washington não estava acessível. “Pedimos desculpas. O aplicativo Test Drive a Win está atualmente indisponível”, dizia uma mensagem no site. Segundo relatos, Megan estava preocupada que a imagem de pornografia gerada por IA dela pudesse ser tornada pública. É uma preocupação generalizada para as mulheres com o aumento da tecnologia de IA, que está tornando mais fácil do que nunca criar e compartilhar imagens e vídeos pornográficos falsos de pessoas. Recentemente, a IA tem sido usada para criar imagens pornográficas de Taylor Swift e outras mulheres proeminentes.