A OpenAI lançou sua equipe de Superalinhamento há quase um ano com o objetivo final de controlar sistemas de IA superinteligentes hipotéticos e evitá-los de se voltarem contra os humanos. Naturalmente, muitas pessoas ficaram preocupadas – por que uma equipe como essa precisaria existir em primeiro lugar? Agora, algo mais preocupante aconteceu: os líderes da equipe, Ilya Sutskever e Jan Leike, acabaram de sair da OpenAI.
A renúncia da liderança do Superalinhamento é a mais recente de uma série de saídas notáveis da empresa, algumas das quais vieram de dentro da equipe focada em segurança de Sutskever e Leike. Em novembro de 2023, Sutskever e o conselho da OpenAI lideraram um esforço fracassado para remover o CEO Sam Altman. Seis meses depois, vários membros da equipe da OpenAI saíram da empresa ou eram bem diretos sobre a segurança da IA ou trabalharam em equipes-chave de segurança.
Sutskever acabou pedindo desculpas pelo golpe (desculpa lá, cara!) e assinou uma carta ao lado de 738 funcionários da OpenAI (de um total de 770) pedindo a reintegração de Altman e do Presidente Greg Brockman. No entanto, de acordo com uma cópia da carta obtida pelo The New York Times com 702 assinaturas (a cópia pública mais completa que o Gizmodo pôde encontrar), vários funcionários que agora saíram não assinaram o apoio aos líderes da OpenAI ou demoraram a fazer isso.
Os nomes dos membros da equipe do Superalinhamento Jan Leike, Leopold Aschenbrenner e William Saunders – que desde então saíram – não aparecem ao lado de mais de 700 outros funcionários da OpenAI mostrando apoio a Altman e Brockman na cópia do Times. O pesquisador de IA de renome mundial Andrej Karpathy e os ex-funcionários da OpenAI Daniel Kokotajlo e Cullen O’Keefe também não aparecem nesta versão inicial da carta e desde então deixaram a OpenAI. Essas pessoas podem ter assinado a versão posterior da carta para demonstrar apoio, mas, se o fizeram, parecem ter sido as últimas.
O Gizmodo entrou em contato com a OpenAI para comentar quem estará liderando a equipe de Superalinhamento de agora em diante, mas ainda não recebemos resposta.
De forma mais ampla, a questão da segurança na OpenAI sempre foi divisiva. Foi isso que levou Dario e Daniela Amodei em 2021 a iniciar sua própria empresa de IA, a Anthropic, ao lado de outros nove ex-funcionários da OpenAI. As preocupações com a segurança também foram o que supostamente levou os membros do conselho sem fins lucrativos da OpenAI a remover Altman e Brockman. Esses membros do conselho foram substituídos por alguns empreendedores infames do Vale do Silício.
A OpenAI ainda tem muitas pessoas trabalhando na segurança da empresa. Afinal, a missão declarada da startup é criar de forma segura AGI que beneficie a humanidade! Dito isso, aqui está a lista contínua do Gizmodo de notáveis defensores da segurança de IA que saíram da OpenAI desde a remoção de Altman. Clique no desktop ou continue rolando no celular.
