O Google pediu desculpas na sexta-feira, dizendo que sua equipe “errou” com um novo recurso de geração de imagens para seu chatbot de IA Gemini após várias imagens criadas que não tinham pessoas brancas viralizarem. Um executivo da empresa negou veementemente que pretendia que o Gemini se recusasse a criar imagens de qualquer grupo específico de pessoas.
“Isso não era o que pretendíamos. Não queríamos que o Gemini se recusasse a criar imagens de qualquer grupo específico. E não queríamos que ele criasse imagens históricas imprecisas – ou de qualquer outro tipo”, disse o vice-presidente sênior do Google, Prabhakar Raghavan.
Em um post no blog, Raghavan – que supervisiona as áreas da empresa que geram a maior parte de seu dinheiro, incluindo a Pesquisa do Google e seus negócios de anúncios – admitiu claramente que o gerador de imagens do Gemini “errou” e que a empresa tentaria fazer melhor. Muitas pessoas ficaram indignadas com as imagens historicamente imprecisas do Gemini de soldados Negros nazistas e Vikings Negros, bem como sua aparente recusa em gerar imagens de pessoas brancas, o que alguns consideraram racista.
De acordo com Raghavan, tudo isso aconteceu porque o Google não queria que o Gemini cometesse os mesmos erros que outros geradores de imagens haviam cometido no passado, como criar imagens violentas, sexualmente explícitas e representações de pessoas reais.
“Então, o que deu errado? Em resumo, duas coisas. Primeiro, nossa sintonização para garantir que o Gemini mostrasse uma variedade de pessoas falhou em considerar casos que claramente não deveriam mostrar uma variedade”, escreveu Raghavan, enfatizando. “E segundo, com o tempo, o modelo se tornou muito mais cauteloso do que pretendíamos e se recusou a responder a certos prompts inteiramente – interpretando erroneamente alguns prompts muito inofensivos como sensíveis.”
O vice-presidente do Google prosseguiu dizendo que esses dois fatores fizeram com que o Gemini compensasse demais em alguns casos e fosse excessivamente conservador em outros. No geral, isso levou à criação de imagens “embaraçosas e erradas”.
O Google desativou a capacidade do Gemini de gerar imagens de pessoas na quinta-feira e disse que lançaria em breve uma versão melhorada. No entanto, Raghavan pareceu duvidar da parte “em breve”, dizendo que a empresa trabalharia em melhorar significativamente o recurso por meio de testes extensivos antes de ativá-lo novamente.
Raghavan afirmou que não poderia prometer que o Gemini não produziria mais resultados embaraçosos, imprecisos ou ofensivos no futuro, mas acrescentou que o Google continuaria a intervir para corrigir isso.
“Uma coisa a ter em mente: o Gemini é construído como uma ferramenta de criatividade e produtividade, e pode nem sempre ser confiável, especialmente quando se trata de gerar imagens ou texto sobre eventos atuais, notícias em evolução ou tópicos polêmicos. Ele cometerá erros”, disse Raghavan.
