O Google pediu desculpas na sexta-feira dizendo que sua equipe “errou” com um recurso de geração de imagens para seu chatbot Gemini AI depois que várias imagens criadas sem pessoas brancas se tornaram virais. Um executivo da empresa negou categoricamente que o Gemini se recusasse a criar imagens de qualquer grupo de pessoas propositadamente.
“Isso não era o que pretendíamos. Não queríamos que o Gemini se recusasse a criar imagens de qualquer grupo em particular. E não queríamos que ele criasse imagens históricas imprecisas – ou de qualquer outro tipo”, disse o vice-presidente sênior do Google, Prabhakar Raghavan.
Em um post no blog, Raghavan – que supervisiona áreas da empresa que geram a maior parte de sua receita, incluindo a Pesquisa do Google e seu negócio de anúncios – admitiu claramente que o gerador de imagens do Gemini “errou” e que a empresa fará o possível para melhorar. Muitas pessoas ficaram indignadas com as imagens historicamente imprecisas do Gemini, como soldados negros nazistas e vikings negros, bem como sua aparente recusa em gerar imagens de pessoas brancas, o que alguns consideraram racista.
Segundo Raghavan, tudo isso aconteceu porque o Google não queria que o Gemini cometesse os mesmos erros que outros geradores de imagens tinham feito no passado, como criar imagens violentas, sexualmente explícitas e representações de pessoas reais.
“Então, o que deu errado? Em resumo, duas coisas. Primeiro, nossa calibração para garantir que o Gemini mostrasse uma variedade de pessoas não levou em conta casos que claramente não deveriam mostrar uma variedade “, escreveu Raghavan, destacando. “E em segundo lugar, ao longo do tempo, o modelo se tornou muito mais cauteloso do que pretendíamos e se recusou a responder a certas sugestões totalmente – interpretando erroneamente algumas sugestões muito inócuas como sensíveis.”
O vice-presidente do Google continuou a dizer que esses dois fatores fizeram com que o Gemini compensasse em alguns casos e fosse excessivamente conservador em outros. No geral, isso levou à criação de imagens “embaraçosas e erradas”.
O Google desativou a capacidade do Gemini de gerar imagens de pessoas na quinta-feira e disse que lançaria em breve uma versão melhorada. No entanto, Raghavan pareceu duvidar da parte “em breve”, dizendo que a empresa trabalharia na melhoria do recurso significativamente por meio de testes extensivos antes de reativá-lo.
Raghavan afirmou que não poderia garantir que o Gemini não produziria mais resultados embaraçosos, imprecisos ou ofensivos no futuro, mas acrescentou que o Google continuaria a intervir para corrigir isso.
“Uma coisa a ter em mente é: o Gemini foi construído como uma ferramenta de criatividade e produtividade, e nem sempre pode ser confiável, especialmente quando se trata de gerar imagens ou texto sobre eventos atuais, notícias em evolução ou tópicos polêmicos. Ele cometerá erros”, disse Raghavan.
