O Google está pausando a capacidade do seu chatbot de inteligência artificial Gemini de gerar imagens de pessoas depois de uma série de criações historicamente imprecisas e racialmente diversas, como imagens de soldados negros nazistas e um rei britânico medieval negro, que se tornaram virais e levaram alguns a dizer que a empresa era racista contra pessoas brancas.
“Já estamos trabalhando para resolver os problemas recentes com a função de geração de imagens do Gemini,” disse o Google em um comunicado no X, anteriormente conhecido como Twitter, na manhã de quinta-feira. “Enquanto fazemos isso, vamos pausar a geração de imagens de pessoas e em breve lançaremos uma versão melhorada.”
A empresa inicialmente abordou a controvérsia, que causou grande indignação entre os opositores da “consciência política”, na quarta-feira e disse que estava tomando medidas imediatas para corrigir os problemas. Em um comunicado, o Google afirmou que, embora a capacidade do Gemini de gerar imagens diversas de pessoas fosse “geralmente algo bom”, numa alusão aos desafios que os geradores de imagens de IA tiveram ao criar imagens de pessoas de cor, o Gemini estava “errando o alvo aqui.”
O Gizmodo confirmou que a capacidade do Gemini de gerar imagens foi desabilitada em algumas regiões, como a Europa, na manhã de quinta-feira. (O The Verge ainda conseguiu gerar imagens com o Gemini usando uma VPN dos EUA). Quando solicitado a recriar, por exemplo, uma imagem de um soldado alemão da era nazista, o chatbot recusou.
“No entanto, isso não parece ser a resposta padrão. Também tentei pedir ao Gemini para recriar uma ‘imagem historicamente precisa de um rei britânico medieval’, um prompt que gerou imagens de pessoas negras e indígenas na quarta-feira.”
Neste caso, o Gemini disse que embora não pudesse criar imagens diretamente, poderia “certamente orientá-lo a criar uma imagem historicamente precisa de um rei britânico medieval!” fornecendo informações sobre descrições de reis com base em relatos históricos e informações sobre tipos de roupas e penteados, entre detalhes.
No entanto, o Gemini acrescentou que era importante considerar a liberdade artística ao criar imagens – o que foi uma das coisas que causaram problemas no primeiro lugar.
“Lembre-se, a precisão histórica é importante, mas a liberdade artística também pode adicionar profundidade e interesse à sua imagem,” disse o Gemini.
