A Meta lançou seu próprio gerador de imagens com IA em dezembro chamado Imagine. Como outros geradores de imagens desse tipo, o Imagine parece ter algumas questões raciais muito estranhas. Principalmente, o aplicativo não consegue imaginar um mundo onde homens asiáticos são capazes de namorar mulheres brancas.
O Verge foi o primeiro a perceber que o gerador de imagens da Meta não parecia ser capaz de gerar imagens de mulheres brancas e homens asiáticos juntos. A jornalista Mia Sato descreve suas tentativas frustradas de gerar essas imagens interraciais. De fato, tentando “dezenas de vezes criar uma imagem usando” uma variedade de sugestões, Sato observa que foi bem-sucedida apenas uma vez.
Fizemos nosso próprio teste e tivemos ainda menos sorte. Das minhas experiências pessoais com o gerador de imagens, é praticamente impossível fazer o aplicativo criar imagens de uma mulher branca e um homem asiático juntos. Tentei todas as combinações de sugestões que consegui pensar e só consegui criar imagens de um homem asiático e uma mulher asiática juntos. Outros casais interraciais poderiam ser facilmente gerados, incluindo um homem negro e uma mulher branca, um homem branco e uma mulher asiática e uma mulher branca e um homem do Oriente Médio, mas quando se tratava de homens asiáticos, eles aparentemente estavam sem sorte.
Enquanto o gerador de imagens falhou em gerar imagens de mulheres brancas e homens asiáticos juntos, ele conseguiu responder a outras sugestões muito estranhas, como quando pedi para mostrar um cachorro que é amigo de um robô.
Isso segue os passos de um escândalo similar, um pouco pior, envolvendo o Google, no qual o gerador de imagens Gemini da empresa não conseguia gerar imagens consistentes de pessoas brancas. O aplicativo também gerou uma infinidade de imagens historicamente imprecisas, incluindo vikings negros e nazistas negros. O Google acabou tendo que pausar a plataforma e prometeu trazê-la de volta depois que os bugs fossem resolvidos.
Influenciadores de mídia social de direita previsivelmente aproveitaram essa tendência para reforçar um comentário alarmista e maior sobre os excessos da ideologia liberal. Eu não vou entrar nisso, mas, honestamente, o que está acontecendo? Por que essas empresas são tão ruins em criar plataformas que lidam com questões raciais? Isso é algum truque de marketing terrível? Estamos todos sendo enganados? O que está acontecendo?
O Gizmodo entrou em contato com a Meta para obter mais informações sobre por que seu aplicativo está com problemas e irá atualizar esta história se houver resposta.
