A Meta lançou seu próprio gerador de imagens alimentado por inteligência artificial em dezembro chamado Imagine. Como outros geradores de imagens desse tipo, o Imagine parece ter algumas questões raciais muito estranhas. Ou seja, a aplicação não consegue imaginar um mundo onde homens asiáticos são capazes de estar com mulheres brancas.
O Verge foi o primeiro a perceber que o gerador de imagens da Meta não conseguia gerar imagens de mulheres brancas e homens asiáticos juntos. A jornalista Mia Sato descreve suas tentativas infrutíferas para gerar essas imagens inter-raciais. De fato, tentando “dezenas de vezes criar uma imagem usando” uma variedade de estímulos, Sato observa que teve sucesso apenas uma vez.
Realizamos nosso próprio teste e tivemos ainda menos sorte. A partir de meus experimentos pessoais com o gerador de imagens, é basicamente impossível fazer com que a aplicação crie imagens de uma mulher branca e um homem asiático juntos. Tentei todas as combinações de estímulos que pude pensar e só consegui criar imagens de um homem e uma mulher asiáticos juntos. Outros casais inter-raciais poderiam ser facilmente gerados, incluindo um homem negro e uma mulher branca, um homem branco e uma mulher asiática, e uma mulher branca e um homem do Oriente Médio, mas quando se tratava de homens asiáticos, ele parecia estar sem sorte.
Enquanto o gerador de imagens falhava em gerar imagens de mulheres brancas e homens asiáticos juntos, ele conseguiu responder a outras, muito mais estranhas, solicitações, como quando pedi para mostrar um cachorro que é amigo de um robô.
Ou um peixe viciado em jogos de azar:
Isso vem logo após um escândalo semelhante, um pouco pior, envolvendo o Google, no qual o gerador de imagens Gemini da empresa não conseguia gerar imagens consistentes de pessoas brancas. A aplicação também gerou uma infinidade de imagens historicamente imprecisas, incluindo vikings negros e nazistas negros. O Google acabou tendo que pausar a plataforma e prometeu trazê-la de volta depois que os bugs fossem corrigidos.
Influenciadores de mídias sociais de direita previsivelmente aproveitaram essa tendência para reforçar alguns comentários maiores e catastrofistas sobre os excessos da ideologia liberal. Não vou entrar nesse assunto, mas francamente, o que está acontecendo? Por que essas empresas são tão ruins em criar plataformas que lidam com a questão racial? Isso é algum tipo de golpe de marketing terrível? Estamos todos sendo enganados? O que está acontecendo?
O Gizmodo entrou em contato com a Meta para obter mais informações sobre por que seu aplicativo está com problemas e atualizará esta história se responder.
