A EQUIPE OPENAI RESPONSÁVEL PELOS PERIGOS EXISTENCIAIS DA IA SE DESFEZ

A equipe da OpenAI responsável pelos perigos existenciais da inteligência artificial não existe mais, depois que o co-fundador e cientista-chefe Ilya Sutskever – e seu co-líder da equipe “superalinhamento” da empresa Jan Leike – renunciaram na terça-feira.
A OpenAI informou à Wired que desmantelou a equipe, acrescentando que seu trabalho será absorvido por outros esforços de pesquisa em toda a empresa. A empresa anunciou a equipe de superalinhamento em julho passado, com Sutskever e Leike no comando.
“A superinteligência será a tecnologia mais impactante que a humanidade já inventou e poderia nos ajudar a resolver muitos dos problemas mais importantes do mundo”, disse a OpenAI na época. “Mas o vasto poder da superinteligência também pode ser muito perigoso e poderia levar à desemparelhamento da humanidade ou até mesmo à extinção humana.”
A equipe tinha a tarefa de trabalhar nesse problema, e a OpenAI disse que dedicaria 20% de sua computação ao esforço nos próximos quatro anos.
Sutskever, que desempenhou um papel ao afastar temporariamente o CEO da OpenAI, Sam Altman, em novembro, escreveu no X na terça-feira que tomou a decisão de sair após quase uma década na empresa. “Estou animado para o que vem a seguir – um projeto que é muito pessoalmente significativo para mim, sobre o qual compartilharei detalhes em breve”, escreveu.
Na sexta-feira, Leike compartilhou um tópico no X sobre sua decisão de deixar a empresa, que ele chamou de “uma das coisas mais difíceis que já fiz, porque precisamos urgentemente descobrir como guiar e controlar sistemas de IA muito mais inteligentes que nós.”
Leike escreveu que ingressou na OpenAI porque achava que “seria o melhor lugar do mundo para fazer essa pesquisa”, mas que tem “discordado com a liderança da OpenAI sobre as prioridades centrais da empresa há algum tempo, até que finalmente atingimos um ponto crítico.” Ele continuou o tópico, escrevendo que a OpenAI deveria priorizar a segurança ao buscar a inteligência artificial geral, ou AGI.
Em resposta ao tópico de Leike, Altman escreveu no X que está “super agradecido” pelas “contribuições da pesquisa de alinhamento e cultura de segurança da openai de Leike, e muito triste em vê-lo partir. ele está certo de que temos muito mais o que fazer; estamos comprometidos em fazê-lo. terei um post mais longo nos próximos dias.”
Sutskever e Leike se juntam a uma lista de outros funcionários da OpenAI que saíram da empresa recentemente, incluindo outros da equipe de superalinhamento e pesquisadores que trabalham em política e governança de IA. Os anúncios vieram um dia depois que a OpenAI revelou seu novo chatbot AI multimodal, ChatGPT-4o.