O recurso do Gemini, que gera imagens a partir de texto, foi temporariamente suspenso pelo Google devido a erros em representações históricas e raciais denunciados pelos usuários. Entre os erros destacados nas redes sociais estão a representação de soldados alemães negros em 1943, época em que Adolf Hitler liderava a Alemanha, e a representação errônea de pessoas negras e indígenas como os “Pais Fundadores” dos Estados Unidos, que na verdade eram homens brancos como George Washington, Thomas Jefferson e Benjamin Franklin.
A plataforma foi criticada por forçar diversidade nos resultados da inteligência artificial, sendo inclusive acusada de “racismo reverso”. Em resposta às críticas, o Google optou por restringir o acesso ao recurso de geração de imagens do Gemini, afirmando que está trabalhando para corrigir o problema o mais rápido possível.
O Google alerta que o Gemini pode gerar respostas imprecisas ou sem sentido, devido ao fenômeno da “alucinação de IA”, comum em ferramentas do tipo. Embora na maioria das vezes as informações sejam coerentes e convincentes, podem conter erros, especialmente quando se trata de imagens. Não há previsão de quando o recurso de geração de imagens será liberado novamente para o público.
