A equipe da OpenAI responsável pelos perigos existenciais da inteligência artificial não existe mais, depois que o cofundador e cientista-chefe Ilya Sutskever e seu co-líder da equipe “superailmentação” da empresa, Jan Leike, renunciaram na terça-feira.
O OpenAI informou à Wired que desmembrou a equipe, acrescentando que seu trabalho será absorvido por outros esforços de pesquisa em toda a empresa. A empresa anunciou a equipe de superailmentação em julho passado, com Sutskever e Leike no comando.
“Superinteligência será a tecnologia mais impactante que a humanidade já inventou e poderia nos ajudar a resolver muitos dos problemas mais importantes do mundo”, disse o OpenAI na época. “Mas o imenso poder da superinteligência também pode ser muito perigoso e pode levar ao desempoderamento da humanidade ou até mesmo à extinção humana.”
A equipe foi encarregada de trabalhar nesse problema, e o OpenAI disse que estava dedicando 20% de seus recursos computacionais para o esforço nos próximos quatro anos.
Sutskever, que desempenhou um papel na expulsão momentânea do CEO da OpenAI, Sam Altman, em novembro, escreveu na terça-feira que tomou a decisão de sair após quase uma década na empresa. “Estou animado com o que vem a seguir – um projeto que é muito pessoalmente significativo para mim, sobre o qual compartilharei detalhes no momento certo”, escreveu.
Na sexta-feira, Leike compartilhou um tópico sobre a sua decisão de deixar a empresa, que ele chamou de “uma das coisas mais difíceis que já fiz, pois precisamos urgentemente descobrir como direcionar e controlar sistemas de IA muito mais inteligentes do que nós.”
Leike escreveu que ingressou na OpenAI porque achou que seria o melhor lugar do mundo para fazer essa pesquisa, mas que “discordava da liderança da OpenAI sobre as prioridades fundamentais da empresa há um bom tempo, até finalmente chegarmos a um ponto de ruptura.” Ele continuou o tópico, escrevendo que a OpenAI deve priorizar a segurança ao buscar a IA geral artificial, ou AGI.
Em resposta ao tópico de Leike, Altman escreveu que é “super apreciativo” das “contribuições de Leike para a pesquisa de alinhamento da OpenAI e cultura de segurança e muito triste por vê-lo partir. Ele está certo de que temos muito mais a fazer; estamos comprometidos em fazê-lo. Eu farei uma postagem mais longa nos próximos dias.”
Sutskever e Leike se juntam a uma lista de outros funcionários da OpenAI que saíram recentemente da empresa, incluindo outros da equipe de superailmentação e pesquisadores que trabalham em políticas de IA e governança. Os anúncios vieram um dia depois que a OpenAI revelou seu novo chatbot multimodal de IA, ChatGPT-4o.
