A OpenAI lançou a sua equipe Superalignment há quase um ano, com o objetivo final de controlar sistemas de IA superinteligentes hipotéticos e impedir que se voltem contra os seres humanos. Naturalmente, muitas pessoas estavam preocupadas— por que uma equipe como essa precisava existir em primeiro lugar? Agora, algo mais preocupante aconteceu: os líderes da equipe, Ilya Sutskever e Jan Leike, acabaram de sair da OpenAI.
A renúncia da liderança da Superalignment é a mais recente de uma série de saídas notáveis da empresa, algumas das quais vieram de dentro da equipe focada em segurança de Sutskever e Leike. Em novembro de 2023, Sutskever e o conselho da OpenAI lideraram um esforço fracassado para destituir o CEO Sam Altman. Seis meses depois, vários membros da equipe da OpenAI deixaram a empresa que eram ou expressavam preocupações sobre a segurança da IA ou trabalhavam em equipes-chave de segurança.
Sutskever acabou se desculpando pelo golpe (minha culpa, cara!) e assinou uma carta ao lado de 738 funcionários da OpenAI (de um total de 770) pedindo a reintegração de Altman e do Presidente Greg Brockman. No entanto, de acordo com uma cópia da carta obtida pelo The New York Times com 702 assinaturas (a cópia mais completa pública que o Gizmodo pôde encontrar), vários funcionários que agora saíram, ou não assinaram o apoio à liderança da OpenAI ou demoraram a fazê-lo.
Os nomes dos membros da equipe Superalignment Jan Leike, Leopold Aschenbrenner e William Saunders — que desde então deixaram a empresa — não aparecem ao lado de mais de 700 outros funcionários da OpenAI que mostram apoio a Altman e Brockman na cópia do Times. O pesquisador de IA de renome mundial Andrej Karpathy e ex-funcionários da OpenAI Daniel Kokotajlo e Cullen O’Keefe também não aparecem nesta versão inicial da carta e desde então deixaram a OpenAI. Essas pessoas podem ter assinado a versão posterior da carta para sinalizar apoio, mas se o fizeram, parecem ter sido os últimos a fazê-lo.
O Gizmodo entrou em contato com a OpenAI para comentar quem estará liderando a equipe Superalignment daqui para frente, mas ainda não obteve resposta.
De uma maneira mais ampla, a segurança na OpenAI sempre foi uma questão divisiva. Foi isso que levou Dario e Daniela Amodei em 2021 a começar a sua própria empresa de IA, Anthropic, ao lado de outros nove ex-funcionários da OpenAI. As preocupações com a segurança também teriam levado membros sem fins lucrativos do conselho da OpenAI a destituir Altman e Brockman. Esses membros do conselho foram substituídos por alguns empresários infames do Vale do Silício.
A OpenAI ainda tem muitas pessoas trabalhando na segurança da empresa. Afinal, a missão declarada da startup é criar IA de AGI de forma segura que beneficie a humanidade! Dito isso, aqui está a lista em andamento do Gizmodo de defensores notáveis da segurança da IA que deixaram a OpenAI desde a destituição de Altman. Clique na versão desktop ou continue rolando na versão mobile.
