O Google pediu desculpas na sexta-feira, afirmando que sua equipe “errou” com um novo recurso de geração de imagens para seu chatbot Gemini AI, após várias imagens criadas que não continham pessoas brancas se tornarem virais. Um executivo da empresa negou veementemente que isso tenha sido feito de propósito para que o Gemini se recusasse a criar imagens de qualquer grupo específico de pessoas.
“Isso não era o que pretendíamos. Não queríamos que o Gemini se recusasse a criar imagens de qualquer grupo específico. E não queríamos que ele criasse imagens históricas imprecisas – ou de qualquer outro tipo”, disse o vice-presidente sênior do Google, Prabhakar Raghavan.
Em um post em seu blog, Raghavan – que supervisiona as áreas da empresa que geram a maior parte de seu dinheiro, incluindo a Pesquisa Google e seu negócio de anúncios – admitiu claramente que o gerador de imagens do Gemini “errou” e que a empresa tentaria fazer melhor. Muitas pessoas ficaram indignadas com as imagens historicamente imprecisas do Gemini, como soldados nazistas negros e vikings negros, bem como com sua aparente recusa em gerar imagens de pessoas brancas, o que alguns consideraram racista.
Segundo Raghavan, tudo isso aconteceu porque o Google não queria que o Gemini cometesse os mesmos erros que outros geradores de imagens haviam cometido no passado, como criar imagens violentas, sexualmente explícitas e representações de pessoas reais.
“Então, o que deu errado? Em resumo, duas coisas. Primeiro, a nossa afinação para garantir que o Gemini mostrasse uma variedade de pessoas não considerou casos que claramente não deveriam mostrar uma variedade”, escreveu Raghavan, enfatizando suas palavras. “E segundo, ao longo do tempo, o modelo se tornou muito mais cauteloso do que pretendíamos e se recusou a responder completamente a certos estímulos – interpretando erroneamente alguns estímulos muito inócuos como sensíveis.”
O vice-presidente do Google prosseguiu dizendo que esses dois fatores fizeram com que o Gemini compensasse em excesso em alguns casos e fosse excessivamente conservador em outros. No geral, isso levou à criação de imagens “embaraçosas e erradas”.
O Google desativou a capacidade do Gemini de gerar imagens de pessoas na quinta-feira e disse que lançaria uma versão melhorada em breve. No entanto, Raghavan parecia duvidar da parte “em breve”, dizendo que a empresa trabalharia para melhorar significativamente o recurso por meio de extensos testes antes de ativá-lo novamente.
Raghavan afirmou que não poderia garantir que o Gemini não produziria mais resultados embaraçosos, imprecisos ou ofensivos no futuro, mas acrescentou que o Google continuaria intervindo para corrigir isso.
“Uma coisa a ter em mente: o Gemini é uma ferramenta de criatividade e produtividade, e pode nem sempre ser confiável, especialmente quando se trata de gerar imagens ou texto sobre eventos atuais, notícias em evolução ou tópicos controversos. Ele cometerá erros”, disse Raghavan.
