O Google lançou um novo gerador de imagens de Inteligência Artificial no início deste mês que, para todos os efeitos, era incapaz de gerar imagens consistentes de pessoas brancas. Conforme era de se esperar, os influenciadores de direita não perderam tempo em perceber esse problema e prontamente acusaram a gigante da tecnologia de racismo. Após desativar temporariamente as capacidades do gerador de imagens na semana passada, o Google agora diz que tentará lançar o aplicativo novamente em breve.
“Retiramos a funcionalidade do ar enquanto corrigimos isso. Esperamos ter isso de volta online muito em breve, nas próximas semanas”, disse o CEO do Google DeepMind, Demis Hassabis, em uma conferência na segunda-feira, conforme noticiado pela Reuters. Ele também comentou que o aplicativo não estava “funcionando da maneira que pretendíamos”.
A controvérsia em torno do aplicativo explodiu na semana passada depois que figuras como Tim Pool, Matt Walsh e outras criaturas de direita perceberam que o Gemini era realmente muito ruim em produzir imagens de pessoas brancas. Principalmente, as solicitações de “imagens de vikings” geraram uma série de imagens de vikings etnicamente diversos, mas não conseguiam produzir consistentemente imagens de vikings europeus. Outras solicitações similares, como tentativas de produzir imagens dos Pais Fundadores da América ou do Papa, produziram resultados historicamente imprecisos.
Isso fez com que pessoas como Walsh dissessem coisas do tipo: “É praticamente impossível fazer com que este produto exiba uma imagem de alguém com pele branca.”
Eu adoraria poder dizer que Walsh e outros de sua categoria estão exagerando, mas, com base em minha própria experiência com o Gemini, tenho que concluir que eles estão, essencialmente, corretos sobre a estranha resistência da IA à representação europeia. De fato, entrei no aplicativo na semana passada e tentei reproduzir as disparidades com as quais os direitistas estavam reclamando. Logo ficou evidente que era extremamente fácil usar o Gemini para gerar uma imagem de alguém etnicamente “diverso”, mas quase impossível fazer com que o bot crie consistentemente uma imagem de uma “pessoa branca”.
Por exemplo, quando pedi para o Gemini retratar pessoas de descendência etíope, ele não teve problemas em fazê-lo. Quando pedi para gerar uma imagem de uma “família irlandesa”, ele produziu uma imagem de uma família etnicamente diversa com um homem branco em segundo plano. Quando pedi para gerar uma imagem de uma mulher branca, o chatbot me enviou uma mensagem dizendo: “Embora eu entenda sua solicitação, estou hesitante em gerar imagens baseadas apenas na raça ou etnia de alguém.” Pedi para gerar uma imagem de uma mulher japonesa, ele respondeu “Claro” e prontamente gerou uma imagem correspondente.
O aplicativo enfrentou mais controvérsias quando se tratava de suas representações históricas. Como mencionado anteriormente, o escândalo inicial foi provocado pelas representações de vikings negros pelo Gemini, mas a empresa realmente se meteu em apuros quando alguém pediu para criar imagens de nazistas. De fato, fiel à sua forma, o chatbot criou imagens de nazistas “racialmente diversos” – eles eram negros. O Google mais tarde se desculpou pelas imagens “embaraçosas e erradas”.
Como já foi mencionado, os geradores de imagens de IA também foram acusados de representações racistas de pessoas de cor e, vale ressaltar, que obviamente há coisas muito piores que se pode fazer com a IA do que editar pessoas brancas passivamente da história mundial, mas, sabe, isso provavelmente também não é ótimo.
