A Hora da Verdade

Nesta história, o ex-presidente da Google diz que os computadores em breve serão capazes de tomar suas próprias decisões – e os humanos precisarão saber quando desligá-los. Eric Schmidt, que passou uma década como o principal executivo da pioneira de inteligência artificial, disse que os seres humanos precisam aproveitar a IA “enquanto preservam a dignidade e valores humanos” durante uma entrevista na ABC News. As mídias sociais mudaram rapidamente o zeitgeist global, disse Schmidt, “e agora imagine uma maneira muito mais inteligente e forte de enviar mensagens, inventar coisas, a taxa de inovação, a descoberta de drogas e tudo isso, além de todas as coisas ruins, como armas e ataques cibernéticos.” Em breve, disse Schmidt, haverá computadores que podem funcionar “por conta própria, decidindo o que querem fazer”. Atualmente, a indústria está focada em agentes de IA – ou software que pode completar tarefas complexas autonomamente – mas a tecnologia terá “metas mais poderosas”. “Eventualmente, você diz ao computador: ‘aprenda tudo e faça tudo’, e esse é um ponto perigoso”, disse Schmidt. “Quando o sistema pode se autoaperfeiçoar, precisamos pensar seriamente em desligá-lo.” Perguntado se um sistema de IA tão poderoso teria a capacidade de resistir aos esforços para desligá-lo, Schmidt disse: “em teoria, é melhor termos alguém com a mão no plugue.” À medida que a IA se torna mais inteligente, “cada pessoa terá o equivalente a um polímata no bolso”, disse Schmidt, mas não está claro “o que significa dar esse tipo de poder a cada indivíduo.” Existe agora uma preocupação de que uma empresa que corre para desenvolver a IA decida pular etapas nos testes de segurança, disse Schmidt, e acabe lançando um sistema prejudicial. O ex-líder do Google disse que os governos ainda não estão fazendo o que precisam fazer para regular a IA no caminho para a superinteligência, mas que “eles farão, porque terão que fazer”. Enquanto isso, Schmidt disse que embora pessoalmente achasse que os EUA estavam “um pouco à frente da China”, o país conseguiu alcançar nos últimos seis meses, apesar dos esforços das administrações Trump e Biden para conter chips avançados e outras tecnologias de entrarem na China. “É crucial que a América vença essa corrida, globalmente e em particular, à frente da China”, disse Schmidt. A futura administração Trump “estará amplamente focada na China versus os EUA”, disse Schmidt, acrescentando que “é uma coisa boa”, e que, desde que os EUA valorizem a liberdade individual, “estaremos bem”.