Google Search Agora é uma Ilusão Gigante

O Google testou visões gerais da IA por meses antes de lançá-las em todo o país na semana passada, mas claramente, isso não foi tempo suficiente. A IA está alucinando respostas para várias consultas de usuários, criando uma experiência menos confiável em relação ao produto principal do Google. Na última semana, o Gizmodo recebeu visões gerais da IA do Google que fazem referência a pizza com cola no topo e sugerem que Barack Obama era muçulmano. As alucinações são preocupantes, mas não totalmente surpreendentes. Como vimos antes com chatbots de IA, essa tecnologia parece confundir sátira com jornalismo – várias das visões gerais incorretas que encontramos parecem fazer referência ao site The Onion. O problema é que essa IA oferece uma resposta autoritativa para milhões de pessoas que recorrem à Pesquisa do Google diariamente apenas para procurar algo. Agora, pelo menos algumas dessas pessoas serão apresentadas a respostas alucinadas. De acordo com um porta-voz do Google em um comunicado por e-mail ao Gizmodo, a ampla maioria das Visões Gerais da IA fornece informações de alta qualidade, com links para pesquisas mais aprofundadas na web, observando que muitos dos exemplos que a empresa viu foram de consultas incomuns. “Estamos tomando medidas rápidas quando apropriado de acordo com nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas”. Em minha experiência, as visões gerais da IA estão mais frequentemente certas do que erradas. No entanto, cada resposta errada que recebo me faz questionar ainda mais toda a minha experiência na Pesquisa do Google – tenho que avaliar cuidadosamente cada resposta. O Google observa que a IA é “experimental”, mas optou por padrão todos nesse experimento. “O que é o mais importante com a Pesquisa – lidamos com bilhões de consultas”, disse o CEO do Google, Sundar Pichai, ao The Verge na segunda-feira, ao ser questionado sobre o lançamento das visões gerais da IA. “Você pode absolutamente encontrar uma consulta e me entregá-la e dizer, ‘Poderíamos ter feito melhor nessa consulta?’ Sim, com certeza. Mas, em muitos casos, parte do que está fazendo as pessoas responderem positivamente às visões gerais da IA é que o resumo que estamos fornecendo claramente adiciona valor e as ajuda a pensar em coisas nas quais talvez não tenham pensado de outra forma”. Curiosamente, a Pesquisa do Google ocasionalmente responde a uma consulta com “Uma visão geral da IA não está disponível para esta pesquisa”, enquanto outras vezes, o Google simplesmente não diz nada e mostra resultados de pesquisa tradicionais. Recebi essa resposta quando pesquisei “qual a etnia da maioria dos presidentes dos EUA” e quando pesquisei “quais frutas terminam em me”. Um porta-voz do Google diz que seus sistemas ocasionalmente começam a gerar uma visão geral da IA, mas interrompem a exibição quando não atinge seu limite de qualidade. Importante ressaltar que o Google teve que pausar as respostas e a geração de imagens do Gemini em torno de tópicos raciais por meses depois de irritar grandes partes do país. Não está claro se essa geração de visões gerais da IA de “parar e começar” está relacionada a isso. O que está claro é que o Google se sentiu pressionado a comprovar o que diz, e isso significa colocar a IA na Pesquisa. As pessoas estão escolhendo cada vez mais ChatGPT, Perplexity ou outras ofertas de IA como seu principal meio de encontrar informações na internet. O Google vê essa corrida de forma existencial, mas pode ter prejudicado a experiência de pesquisa ao tentar acompanhar. Nesta semana, a Pesquisa do Google informou às pessoas muitas coisas estranhas por meio de visões gerais da IA. Aqui estão algumas das mais estranhas encontradas pelo Gizmodo.