O Google testou visões gerais de inteligência artificial por meses antes de lançá-las nacionalmente na semana passada, mas claramente, esse não foi tempo suficiente. A IA está alucinando respostas para várias consultas de usuários, criando uma experiência menos confiável em produtos principais do Google. Na última semana, o Gizmodo recebeu visões gerais de IA do Google que faziam referência a pizza com cola e sugeriam que Barack Obama era muçulmano.
As alucinações são preocupantes, mas não totalmente surpreendentes. Como já vimos antes com os chatbots de IA, essa tecnologia parece confundir sátira com jornalismo – várias das visões gerais de IA incorretas que encontramos parecem fazer referência ao The Onion. O problema é que essa IA oferece uma resposta autoritativa a milhões de pessoas que recorrem à Pesquisa do Google diariamente apenas para procurar algo. Agora, pelo menos algumas dessas pessoas serão apresentadas a respostas alucinadas.
“A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para aprofundar na web”, disse um porta-voz do Google em um comunicado enviado por e-mail ao Gizmodo, observando que muitos dos exemplos que a empresa viu foram de consultas incomuns. “Estamos agindo rapidamente quando apropriado de acordo com nossas políticas de conteúdo, e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas.”
Em minha experiência, as visões gerais de IA estão mais frequentemente certas do que erradas. No entanto, cada resposta errada que recebo me faz questionar ainda mais toda minha experiência na Pesquisa do Google – tenho que avaliar cuidadosamente cada resposta. O Google observa que a IA é “experimental”, mas eles optaram por incluir todos nesse experimento por padrão.
“O que acontece com a Pesquisa – lidamos com bilhões de consultas”, disse o CEO do Google, Sundar Pichai, ao The Verge na segunda-feira, quando perguntado sobre o lançamento das visões gerais de IA. “Você pode definitivamente encontrar uma consulta e me entregá-la e dizer: ‘Poderíamos ter feito melhor nessa consulta?’ Sim, com certeza. Mas em muitos casos, parte do que está fazendo as pessoas responderem positivamente às visões gerais de IA é que o resumo que estamos fornecendo claramente agrega valor e ajuda-as a pensar em coisas que de outra forma não teriam pensado.”
Estranhamente, a Pesquisa do Google ocasionalmente responde a uma consulta com “Uma visão geral de IA não está disponível para essa pesquisa”, enquanto em outras vezes, o Google simplesmente não diz nada e mostra os resultados de pesquisa tradicionais. Recebi essa resposta ao pesquisar “de que etnia são a maioria dos presidentes dos EUA” e ao pesquisar “quais frutas terminam em -me”.
Um porta-voz do Google diz que seus sistemas ocasionalmente começam a gerar uma visão geral de IA, mas param de exibi-la quando não atendem ao seu limite de qualidade. Notavelmente, o Google teve que pausar as respostas e geração de imagens do Gemini em tópicos raciais por meses depois de ofender grande parte do país. Não está claro se essa geração de visões gerais de IA de “parar e iniciar” está relacionada.
