A Meta lançou seu próprio gerador de imagens com inteligência artificial em dezembro, chamado Imagine. Como outros geradores de imagens do tipo, o Imagine parece ter alguns preconceitos raciais muito estranhos. Ou seja, o aplicativo parece não ser capaz de imaginar um mundo onde homens asiáticos são capazes de se relacionar com mulheres brancas.
O Verge foi o primeiro a notar que o gerador de imagens da Meta não parecia ser capaz de gerar imagens de mulheres brancas e homens asiáticos juntos. A jornalista Mia Sato descreve suas tentativas frustradas de gerar tais imagens inter-raciais. De fato, tentando “dezenas de vezes criar uma imagem usando” uma variedade de estímulos, Sato observa que foi bem-sucedida apenas uma vez.
Fizemos nosso próprio teste e tivemos ainda menos sorte. A partir de meus experimentos pessoais com o gerador de imagens, é basicamente impossível fazer o aplicativo criar imagens de uma mulher branca e um homem asiático juntos. Tentei todas as combinações de estímulos que pude pensar e só fui bem-sucedido em criar imagens de um homem asiático e uma mulher asiática juntos. Outros casais inter-raciais poderiam ser facilmente gerados, incluindo um homem negro e uma mulher branca, um homem branco e uma mulher asiática, e uma mulher branca e um homem do Oriente Médio, mas quando se tratava de homens asiáticos, aparentemente eles estavam sem sorte.
Enquanto o gerador de imagens falhava em gerar imagens de mulheres brancas e homens asiáticos juntos, ele conseguia responder a outros estímulos muito mais estranhos, como quando pedi para mostrar um cachorro que é amigo de um robô.
Isso segue os passos de um escândalo semelhante, um pouco pior, envolvendo o Google, no qual o gerador de imagens Gemini da empresa não conseguia gerar imagens consistentes de pessoas brancas. O aplicativo também gerou uma infinidade de imagens historicamente imprecisas, incluindo vikings negros e nazistas negros. O Google acabou tendo que pausar a plataforma e prometeu trazê-la de volta depois que os bugs fossem resolvidos.
Influenciadores de mídia social de direita previsivelmente aproveitaram essa tendência para reforçar comentários amplos e catastrofistas sobre os excessos da ideologia liberal. Não vou me ater a isso, mas, sinceramente, o que está acontecendo? Por que essas empresas são tão ruins em criar plataformas que lidam com a questão racial? Isso é algum tipo de golpe de marketing terrível? Estamos todos sendo enganados? O que está acontecendo?
O Gizmodo entrou em contato com a Meta para obter mais informações sobre por que seu aplicativo está com problemas e atualizará esta história se houver resposta.
