O Google testou visões gerais de IA por meses antes de lançá-las em todo o país na semana passada, mas claramente, isso não foi tempo suficiente. A IA está alucinando respostas para várias consultas de usuários, criando uma experiência pouco confiável em relação ao produto principal do Google. Na última semana, Gizmodo recebeu visões gerais de IA do Google que mencionam pizza com cola e sugerem que Barack Obama era muçulmano.
As alucinações são preocupantes, mas não totalmente surpreendentes. Como vimos antes com os chatbots de IA, essa tecnologia parece confundir sátira com jornalismo – várias das visões gerais de IA incorretas que encontramos parecem fazer referência ao The Onion. O problema é que essa IA oferece uma resposta autoritária a milhões de pessoas que recorrem diariamente à Pesquisa do Google apenas para procurar algo. Agora, pelo menos algumas dessas pessoas serão apresentadas a respostas alucinadas.
“ A grande maioria das Visões Gerais de IA fornece informações de alta qualidade, com links para aprofundar na web,” disse um porta-voz do Google em um comunicado enviado por e-mail ao Gizmodo, observando que muitos dos exemplos que a empresa viu eram de consultas incomuns. “Estamos tomando medidas rápidas onde apropriado, de acordo com nossas políticas de conteúdo, e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas.”
Em minha experiência, as visões gerais de IA estão mais frequentemente corretas do que erradas. No entanto, cada resposta errada que recebo me faz questionar ainda mais toda a minha experiência na Pesquisa do Google – tenho que avaliar cada resposta cuidadosamente. O Google observa que a IA é “experimental”, mas eles optaram por incluir todos neste experimento por padrão.
“ A questão com a Pesquisa – lidamos com bilhões de consultas”, disse o CEO do Google, Sundar Pichai, ao The Verge na segunda-feira, quando questionado sobre a implementação das visões gerais de IA. “Você pode absolutamente encontrar uma consulta e me entregá-la e dizer: ‘Poderíamos ter feito melhor com essa consulta?’ Sim, com certeza. Mas, em muitos casos, parte do que está fazendo as pessoas responderem positivamente às Visões Gerais de IA é que o resumo que estamos fornecendo claramente agrega valor e ajuda a olhar para coisas que talvez não tivessem pensado de outra forma.”
Estranhamente, a Pesquisa do Google ocasionalmente responde a uma consulta com “Uma visão geral de IA não está disponível para esta pesquisa”, enquanto outras vezes o Google simplesmente não diz nada e mostra resultados de pesquisa tradicionais. Recebi essa resposta quando pesquisei “qual a etnia da maioria dos presidentes dos EUA” e quando pesquisei “quais frutas terminam em me.”
Um porta-voz do Google diz que seus sistemas ocasionalmente começam a gerar uma visão geral de IA, mas impedem que ela apareça quando não atende ao seu padrão de qualidade. O Google teve que pausar as respostas do Gemini e a geração de imagens em torno de tópicos raciais por meses depois de irritar grandes partes do país. Não está claro se essa geração de visões gerais de IA “parar e começar” está relacionada.
O que está claro é que o Google se sentiu pressionado a colocar seu dinheiro onde está sua boca, e isso significa colocar a IA na Pesquisa. As pessoas estão cada vez mais escolhendo ChatGPT, Perplexity, ou outras ofertas de IA como sua principal forma de encontrar informações na internet. O Google vê essa corrida de forma existencial, mas pode ter comprometido a experiência de pesquisa ao tentar acompanhar.
Esta semana, a Pesquisa do Google disse às pessoas muitas coisas estranhas através de visões gerais de IA. Aqui estão algumas das mais estranhas encontradas pelo Gizmodo.
