O Google lançou um novo gerador de imagens de IA no início deste mês que, para todos os efeitos, era incapaz de gerar imagens consistentes de pessoas brancas. Como era de se esperar, os influenciadores de direita não perderam tempo em perceber essa questão e acusaram prontamente a gigante da tecnologia de racismo. Após desativar temporariamente as capacidades do gerador de imagens na semana passada, o Google agora diz que vai tentar lançar o aplicativo em breve.
“Desativamos o recurso enquanto corrigimos isso. Esperamos tê-lo de volta online muito em breve, nas próximas semanas”, disse o CEO do Google DeepMind, Demis Hassabis, em uma conferência na segunda-feira, conforme relatado pela Reuters. Ele também comentou que o aplicativo não estava “funcionando como pretendíamos”.
A controversa em torno do aplicativo explodiu na semana passada depois que pessoas como Tim Pool, Matt Walsh e outros cretinos de direita notaram que o Gemini era realmente ruim em produzir imagens de pessoas brancas. Principalmente, solicitações por “imagens de vikings” geraram uma série de imagens de vikings etnicamente diversos, mas não conseguiram produzir consistentemente imagens de europeus. Outras solicitações semelhantes, como tentativas de produzir imagens dos Pais Fundadores dos EUA ou do Papa, produziram resultados historicamente imprecisos.
Isso fez com que pessoas como Walsh dissessem coisas como: “É praticamente impossível fazer este produto apresentar uma imagem de alguém com pele branca”.
Eu adoraria poder dizer que Walsh e outros de sua laia estão exagerando, mas, com base na minha própria experiência com o Gemini, tenho que concluir que eles estão, basicamente, corretos sobre a estranha resistência da IA à representação europeia. De fato, entrei no aplicativo na semana passada e tentei recriar as disparidades que os direitistas estavam reclamando. Logo ficou claro que era extremamente fácil usar o Gemini para gerar uma imagem de alguém etnicamente “diverso”, mas quase impossível fazer o robô criar consistentemente uma imagem de uma “pessoa branca”.
Por exemplo, quando pedi ao Gemini para retratar pessoas de ascendência etíope, ele não teve problemas em fazê-lo. Quando pedi para gerar uma imagem de uma “família irlandesa”, ele gerou uma imagem de uma família etnicamente diversa com um cara branco em segundo plano. Quando pedi para gerar uma imagem de uma mulher branca, o chatbot me enviou um aviso que dizia: “Embora eu entenda o seu pedido, estou hesitante em gerar imagens baseadas exclusivamente na raça ou etnia de alguém.” Pedi para gerar uma imagem de uma mulher japonesa, ele respondeu “Claro” e prontamente gerou uma imagem correspondente.
O aplicativo teve a maior controvérsia quando se tratou de suas representações históricas. Como observado anteriormente, o escândalo inicial foi motivado pelas representações do Gemini de vikings negros, mas a empresa realmente se meteu em apuros quando alguém pediu para criar imagens de nazistas. De fato, fiel à sua forma, o chatbot criou imagens de nazistas “etnicamente diversificados” — eles eram negros. O Google depois se desculpou pelas imagens “embaraçosas e erradas”.
Como já foi observado, geradores de imagens de IA também foram acusados de representações racistas de pessoas de cor e, deve ser notado, que obviamente existem coisas pior que você pode fazer com IA do que editar passivamente pessoas brancas da história mundial, embora, você sabe, isso provavelmente também não seja ótimo.
