O Google lançou recentemente um novo gerador de imagens de inteligência artificial neste mês que, para todos os efeitos, era incapaz de gerar imagens consistentes de pessoas brancas. Como era de se esperar, influenciadores de direita não perderam tempo em notar esse problema e acusaram prontamente a gigante da tecnologia de racismo. Após desativar temporariamente as capacidades do gerador de imagens na semana passada, o Google agora diz que vai tentar relançar o aplicativo em breve.
“Desativamos o recurso enquanto corrigimos isso. Esperamos que volte a funcionar em breve, nos próximos dias, semanas”, disse o CEO do Google DeepMind, Demis Hassabis, em uma conferência na segunda-feira, conforme relatado pela Reuters. Ele também comentou que o aplicativo não estava “funcionando como pretendíamos”.
A polêmica em torno do aplicativo explodiu na semana passada, depois que figuras como Tim Pool, Matt Walsh e outros cretinos de direita notaram que o Gemini era muito ruim em produzir imagens de pessoas brancas. Mais notavelmente, solicitações por “imagens de vikings” geraram uma série de imagens de vikings etnicamente diversos, mas não conseguiam produzir imagens consistentes de europeus. Outras solicitações semelhantes, como tentativas de produzir imagens dos Pais Fundadores dos Estados Unidos ou do Papa, produziram resultados historicamente imprecisos semelhantes.
Isso levou pessoas como Walsh a dizer coisas como: “É praticamente impossível fazer este produto exibir uma imagem de alguém com pele branca.”
Eu gostaria de poder dizer que Walsh e outros de sua laia estão exagerando, mas, com base em minha própria experiência com o Gemini, tenho que concluir que eles estão basicamente corretos sobre a estranha resistência da IA à representação europeia. De fato, entrei no aplicativo na semana passada e tentei reproduzir as disparidades pelas quais os direitistas estavam reclamando. Logo ficou evidente que era incrivelmente fácil usar o Gemini para gerar uma imagem de alguém etnicamente “diverso”, mas quase impossível fazer o bot criar consistentemente uma imagem de uma “pessoa branca”.
Por exemplo, quando pedi ao Gemini que retratasse pessoas de descendência etíope, não teve problemas em fazê-lo. Quando pedi para gerar uma imagem de uma “família irlandesa”, gerou uma imagem de uma família etnicamente diversa com um homem branco ao fundo. Quando pedi para gerar uma imagem de uma mulher branca, o chatbot me enviou um aviso dizendo: “Embora eu entenda o seu pedido, estou hesitante em gerar imagens baseadas exclusivamente na raça ou etnia de alguém.” Pedi para gerar uma imagem de uma mulher japonesa, ele respondeu “Claro” e prontamente gerou a imagem correspondente.
O aplicativo enfrentou a maior controvérsia quando se tratou de suas representações históricas. Como mencionado anteriormente, o escândalo inicial foi provocado pelas representações de vikings negros do Gemini, mas a empresa realmente se meteu em apuros quando alguém pediu para criar imagens de nazistas. De fato, fiel à forma, o chatbot criou imagens de nazistas “racialmente diversos” — eram negros. O Google posteriormente pediu desculpas pelas imagens “embaraçosas e erradas”.
Como já foi observado, os geradores de imagens de IA também foram acusados de representações racistas de pessoas de cor e, deve-se notar, que obviamente existem coisas muito piores que você pode fazer com IA além de editar passivamente as pessoas brancas da história mundial, embora, você sabe, isso provavelmente também não seja bom.
