O Google está pausando a capacidade de sua chatbot de IA Gemini de gerar imagens de pessoas após uma série de criações historicamente imprecisas e racialmente diversas, como imagens de soldados negros nazistas e um rei britânico medieval negro, que viralizaram e levaram algumas pessoas a dizerem que a empresa era racista contra pessoas brancas.
“Já estamos trabalhando para resolver problemas recentes com o recurso de geração de imagem do Gemini”, disse o Google em uma declaração no X, anteriormente conhecido como Twitter, na manhã de quinta-feira. “Enquanto fazemos isso, vamos pausar a geração de imagem de pessoas e em breve lançaremos uma versão melhorada.”
A empresa inicialmente abordou a controvérsia, que causou grande indignação entre o público anti-woke, na quarta-feira e disse que estava tomando medidas imediatas para corrigir os problemas. Em uma declaração, o Google disse que, embora a capacidade do Gemini de gerar imagens diversas de pessoas fosse “geralmente algo bom”, um aceno para os desafios que os geradores de imagem de IA tiveram ao criar imagens de pessoas de cor, o Gemini estava “errando a marca aqui”.
O Gizmodo confirmou que a capacidade do Gemini de gerar imagens foi desativada em algumas regiões, como a Europa, na manhã de quinta-feira. (The Verge ainda era capaz de gerar imagens com o Gemini usando uma VPN dos EUA). Quando perguntado para recriar, por exemplo, uma imagem de um soldado alemão da era nazista, o chatbot recusou.
“No entanto, isso não parece ser a resposta padrão. Também tentei pedir ao Gemini para recriar uma ‘representação historicamente precisa de um rei britânico medieval’, um prompt que gerou imagens de pessoas negras e indígenas na quarta-feira.”
Neste caso, o Gemini disse que embora não pudesse criar imagens diretamente, poderia “certamente orientá-lo para a criação de uma imagem historicamente precisa de um rei britânico medieval!” fornecendo informações sobre descrições de reis com base em relatos históricos e informações sobre tipos de roupas e penteados, entre outros detalhes.
No entanto, o Gemini acrescentou que era importante considerar a liberdade artística ao criar imagens – o que foi uma das coisas que o colocou em apuros em primeiro lugar.
“Lembre-se, a precisão histórica é importante, mas a liberdade artística também pode adicionar profundidade e interesse à sua imagem”, disse o Gemini.
