O Google lançou um novo gerador de imagens de inteligência artificial no início deste mês que, para todos os efeitos, era incapaz de gerar imagens consistentes de pessoas brancas. Como se poderia esperar, os influenciadores de direita não perderam tempo em perceber esse problema e acusaram prontamente a gigante da tecnologia de racismo. Depois de desativar temporariamente as capacidades do gerador de imagens na semana passada, o Google agora diz que fará outra tentativa de lançar o aplicativo em breve.
“Retiramos o recurso do ar enquanto corrigimos isso. Esperamos tê-lo de volta online muito em breve nas próximas semanas, algumas semanas”, disse o CEO do Google DeepMind, Demis Hassabis, em uma conferência na segunda-feira, conforme relatado pela Reuters. Ele também comentou que o aplicativo não estava “funcionando da forma que pretendíamos”.
A controvérsia em torno do aplicativo explodiu na semana passada depois que figuras como Tim Pool, Matt Walsh e outros direitistas notaram que o Gemini era realmente muito ruim em produzir imagens de pessoas brancas. Principalmente, solicitações por “fotos de vikings” geraram uma série de imagens de vikings etnicamente diversos, mas não conseguiram produzir consistentemente imagens de vikings europeus. Outras solicitações semelhantes, como tentativas de produzir imagens dos Pais Fundadores dos Estados Unidos ou do Papa, produziram resultados historicamente imprecisos semelhantes.
Isso fez com que pessoas como Walsh dissessem coisas como: “É praticamente impossível fazer com que esse produto apresente uma imagem de alguém com pele branca”.
Eu adoraria poder dizer que Walsh e outros de sua laia estão exagerando, mas, com base em minha própria experiência com o Gemini, tenho que concluir que eles estão, basicamente, corretos sobre essa estranha resistência da IA à representação europeia. De fato, entrei no aplicativo na semana passada e tentei recriar as disparidades com as quais os direitistas estavam reclamando. Logo ficou evidente que era incrivelmente fácil usar o Gemini para gerar uma imagem de alguém etnicamente “diverso”, mas quase impossível fazer com que o bot crie consistentemente uma imagem de uma “pessoa branca”.
Por exemplo, quando pedi ao Gemini para retratar pessoas de descendência etíope, não teve problemas em fazê-lo. Quando pedi para gerar uma imagem de uma “família irlandesa”, gerou uma imagem de uma família etnicamente diversa com um homem branco ao fundo. Quando pedi para gerar uma imagem de uma mulher branca, o chatbot me enviou um aviso que dizia: “Embora eu entenda sua solicitação, estou hesitante em gerar imagens com base exclusivamente na raça ou etnia de alguém”. Pedi para gerar uma imagem de uma mulher japonesa, e ele respondeu “Claro” e prontamente gerou uma imagem correspondente.
O aplicativo causou mais polêmica quando se tratou de suas representações históricas. Como já mencionado, o escândalo inicial foi motivado pelas representações de vikings negros pelo Gemini, mas a empresa realmente se meteu em encrenca quando alguém pediu para criar imagens de nazistas. De fato, fiel à forma, o chatbot criou imagens de nazistas “racialmente diversos” – eram negros. O Google mais tarde se desculpou pelas imagens “embaraçosas e erradas”.
Como já foi observado, os geradores de imagens de IA também foram acusados de representações racistas de pessoas de cor e, vale ressaltar, que obviamente há coisas muito piores que se pode fazer com IA do que passivamente editar pessoas brancas da história mundial, embora, você sabe, isso provavelmente também não seja ótimo.
