O Google está pausando a capacidade de seu chatbot de IA, o Gemini, de gerar imagens de pessoas após uma série de criações historicamente imprecisas e racialmente diversas, como imagens de soldados nazistas negros e um rei britânico medieval negro, que se tornaram virais e levaram algumas pessoas a dizerem que a empresa era racista contra pessoas brancas.
“Já estamos trabalhando para resolver os problemas recentes com a funcionalidade de geração de imagem do Gemini”, disse o Google em um comunicado no X, anteriormente conhecido como Twitter, na manhã de quinta-feira. “Enquanto fazemos isso, vamos pausar a geração de imagem de pessoas e lançaremos em breve uma versão melhorada.”
A empresa inicialmente abordou a controvérsia, que causou uma ampla indignação entre o público anti-acordado, na quarta-feira e disse que estava tomando medidas imediatas para corrigir os problemas. Em um comunicado, o Google disse que, embora a capacidade do Gemini de gerar imagens diversas de pessoas fosse “geralmente algo bom”, em referência aos desafios que os geradores de imagens de IA têm tido na criação de imagens de pessoas de cor, o Gemini estava “errando o alvo aqui”.
O Gizmodo confirmou que a capacidade do Gemini de gerar imagens foi desativada em algumas regiões, como a Europa, na manhã de quinta-feira. (The Verge ainda era capaz de gerar imagens com o Gemini usando uma VPN dos EUA). Quando solicitado a recriar, por exemplo, uma imagem de um soldado alemão da era nazista, o chatbot recusou.
“No entanto, isso não parece ser a resposta padrão. Também tentei pedir ao Gemini para recriar uma ‘representação historicamente precisa de um rei britânico medieval’, uma solicitação que gerou imagens de pessoas negras e indígenas na quarta-feira.
Neste caso, o Gemini disse que embora não pudesse criar imagens diretamente, poderia “certamente guiá-lo para criar uma imagem historicamente precisa de um rei britânico medieval!” fornecendo informações sobre descrições de reis com base em relatos históricos e informações sobre tipos de roupas e penteados, entre outros detalhes.
No entanto, o Gemini acrescentou que era importante considerar a liberdade artística ao criar imagens — o que é uma das coisas que o colocou em apuros em primeiro lugar.
“Lembre-se, a precisão histórica é importante, mas a liberdade artística também pode adicionar profundidade e interesse à sua imagem,” disse o Gemini.
