A Meta lançou seu próprio gerador de imagens AI em dezembro chamado Imagine. Como outros geradores de imagens desse tipo, Imagine parece ter algumas estranhas obsessões raciais. Ou seja, o aplicativo não consegue imaginar um mundo onde homens asiáticos são capazes de estar com mulheres brancas.
O Verge foi o primeiro a perceber que o gerador de imagens da Meta não parecia ser capaz de gerar imagens de mulheres brancas e homens asiáticos juntos. A jornalista Mia Sato descreve suas tentativas frustradas de gerar essas imagens inter-raciais. De fato, tentando “dezenas de vezes criar uma imagem usando” uma variedade de prompts, Sato observa que teve sucesso apenas uma vez.
Fizemos nosso próprio teste e tivemos ainda menos sorte. A partir de meus experimentos pessoais com o gerador de imagens, é praticamente impossível fazer o aplicativo criar imagens de uma mulher branca e um homem asiático juntos. Tentei todas as combinações de prompts que pude pensar e só tive sucesso em criar imagens de um homem e uma mulher asiáticos juntos. Outros casais inter-raciais poderiam ser facilmente gerados, incluindo um homem negro e uma mulher branca, um homem branco e uma mulher asiática, e uma mulher branca e um homem do Oriente Médio, mas quando se tratava de homens asiáticos, aparentemente eles estavam sem sorte.
Enquanto o gerador de imagens falhou em gerar imagens de mulheres brancas e homens asiáticos juntos, ele conseguiu responder a outros prompts muito mais bizarros, como quando pedi para mostrar um cachorro amigo de um robô.
Isso segue os passos de um escândalo semelhante, um pouco pior, envolvendo o Google, no qual o gerador de imagens Gemini da empresa não conseguiu gerar fotos consistentes de pessoas brancas. O aplicativo também gerou uma infinidade de imagens historicamente imprecisas, incluindo vikings negros e nazistas negros. O Google acabou tendo que pausar a plataforma e prometeu trazê-la de volta depois que os bugs fossem corrigidos.
Influenciadores da mídia social de direita previsivelmente se aproveitaram dessa tendência para reforçar alguns comentários catastrofistas maiores sobre os excessos da ideologia liberal. Eu não vou entrar nisso, mas, sinceramente, o que está acontecendo? Por que essas empresas são tão ruins em criar plataformas que lidam com questões raciais? Isso é algum truque de marketing terrível? Estamos todos sendo enganados? O que está acontecendo?
Gizmodo entrou em contato com a Meta para obter mais informações sobre por que seu aplicativo está com problemas e atualizará esta história se houver resposta.
