O Google testou visões gerais de inteligência artificial por meses antes de lançá-las nacionalmente na semana passada, mas claramente, esse não foi tempo suficiente. A IA está alucinando respostas para várias consultas de usuários, criando uma experiência menos confiável no principal produto do Google. Na última semana, o Gizmodo recebeu visões gerais de IA do Google que fazem referência a pizzas com cola no topo e sugerem que Barack Obama era muçulmano.
As alucinações são preocupantes, mas não totalmente surpreendentes. Como já vimos antes com chatbots de IA, essa tecnologia parece confundir sátira com jornalismo – várias das visões gerais de IA incorretas que encontramos parecem fazer referência ao The Onion. O problema é que essa IA oferece uma resposta autoritativa a milhões de pessoas que recorrem à pesquisa do Google diariamente apenas para procurar algo. Agora, pelo menos algumas dessas pessoas serão apresentadas a respostas alucinadas.
“A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para aprofundar na web”, disse um porta-voz do Google em um comunicado por e-mail ao Gizmodo, observando que muitos dos exemplos que a empresa viu foram de consultas incomuns. “Estamos tomando medidas rápidas quando apropriado sob nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas.”
Em minha experiência, as visões gerais de IA estão mais frequentemente certas do que erradas. No entanto, cada resposta incorreta que recebo me faz questionar ainda mais toda a minha experiência na Pesquisa Google – tenho que avaliar cuidadosamente cada resposta. O Google observa que a IA é “experimental”, mas eles incluíram todos nesse experimento por padrão.
“A coisa com a Pesquisa – lidamos com bilhões de consultas”, disse o CEO do Google, Sundar Pichai, ao The Verge na segunda-feira, quando questionado sobre o lançamento das visões gerais de IA. “Você pode definitivamente encontrar uma consulta e me entregar e dizer, ‘Poderíamos ter feito melhor nessa consulta?’ Sim, com certeza. Mas em muitos casos, parte do que está fazendo as pessoas responderem positivamente às visões gerais de IA é que o resumo que estamos fornecendo claramente acrescenta valor e ajuda a olhar para coisas que talvez não tivessem pensado de outra forma.”
Estranhamente, a Pesquisa Google ocasionalmente responde a uma consulta com “Uma visão geral de IA não está disponível para esta pesquisa”, enquanto outras vezes, o Google simplesmente não diz nada e mostra os resultados de pesquisa tradicionais. Recebi essa resposta quando pesquisei “qual é a etnia da maioria dos presidentes dos EUA” e quando pesquisei “quais frutas terminam em ‘me'”.
Um porta-voz do Google diz que seus sistemas às vezes começam a gerar uma visão geral de IA, mas param de exibi-la quando não atende ao seu limite de qualidade. Notavelmente, o Google teve que pausar as respostas e a geração de imagens do Gemini em torno de tópicos raciais por meses depois de irritar grandes partes do país. Não está claro se essa geração “parar e começar” de visões gerais de IA está relacionada.
O que está claro é que o Google sentiu pressionado a colocar seu dinheiro onde está sua boca, e isso significa colocar IA na Pesquisa. As pessoas estão cada vez mais escolhendo ChatGPT, Perplexity ou outras ofertas de IA como sua principal forma de encontrar informações na internet. O Google vê essa corrida de maneira existencial, mas pode ter comprometido a experiência de pesquisa ao tentar se equiparar.
Esta semana, a Pesquisa Google disse muitas coisas estranhas às pessoas por meio de visões gerais de IA. Aqui estão algumas das mais estranhas que o Gizmodo encontrou.
