A EQUIPE DO OPENAI RESPONSÁVEL PELOS PERIGOS EXISTENCIAIS DA INTELIGÊNCIA ARTIFICIAL SE DESFEZ

A equipe da OpenAI responsável pelos perigos existenciais da inteligência artificial não existe mais, depois que o co-fundador e cientista-chefe, Ilya Sutskever, e seu colega da equipe “superalinhamento” da empresa, Jan Leike, renunciaram na terça-feira. A OpenAI afirmou à Wired que dissolvou a equipe, acrescentando que seu trabalho será absorvido por outros esforços de pesquisa em toda a empresa. A equipe foi encarregada de trabalhar nesse problema, e a OpenAI disse que dedicaria 20% de sua capacidade ao esforço nos próximos quatro anos. Sutskever, que desempenhou um papel na destituição momentânea do executivo-chefe da OpenAI, Sam Altman, em novembro, escreveu na terça-feira que tomou a decisão de sair depois de quase uma década na empresa. “Estou animado com o que vem a seguir – um projeto que é muito pessoalmente significativo para mim e sobre o qual compartilharei detalhes em breve”, escreveu. Na sexta-feira, Leike compartilhou um tópico sobre sua decisão de sair da empresa, que ele chamou de “uma das coisas mais difíceis que já fiz, porque precisamos urgentemente descobrir como guiar e controlar sistemas de IA muito mais inteligentes que nós”. Leike escreveu que ele se juntou à OpenAI porque achava que seria o melhor lugar do mundo para fazer essa pesquisa, mas que ele “vem discordando da liderança da OpenAI sobre as prioridades fundamentais da empresa há muito tempo, até finalmente chegarmos a um ponto de ruptura.” Ele continuou o tópico, escrevendo que a OpenAI deveria priorizar a segurança ao perseguir a inteligência artificial geral ou AGI. Em resposta ao tópico de Leike, Altman escreveu que está “muito apreciativo” das “contribuições de Leike para a pesquisa de alinhamento da openai e cultura de segurança, e muito triste por vê-lo sair. ele está certo de que temos muito mais a fazer; estamos comprometidos em fazê-lo. terei um post mais longo nos próximos dias.” Sutskever e Leike se juntam a uma lista de outros funcionários da OpenAI que saíram recentemente da empresa, incluindo outros da equipe de superalinhamento e pesquisadores que trabalham em política e governança de IA. As notícias vieram um dia após a OpenAI revelar seu novo chatbot multimodal de IA, ChatGPT-4o.