A OpenAI está desmantelando a equipe responsável por aconselhar a startup sobre o quão preparado o mundo está para níveis mais avançados de inteligência artificial.
Miles Brundage, chefe da equipe de “Prontidão para AGI” da OpenAI, está deixando a empresa esta semana, ele disse em um post no Substack na quarta-feira. Brundage disse que planeja iniciar uma organização sem fins lucrativos ou se juntar a uma existente focada em pesquisas sobre políticas de AI. Uma subequipe para pesquisa econômica passará para o novo economista-chefe da OpenAI, Ronnie Chatterji, disse Brundage, enquanto outros membros serão realocados para outras equipes.
O assessor sênior saínte disse que nem o criador do ChatGPT nem outros laboratórios de ponta de AI estão prontos para AGI, ou inteligência artificial geral, que é considerada inteligência de nível humano. Parte do motivo para iniciar ou se juntar a uma organização sem fins lucrativos, disse Brundage, é porque “acredito que a AI dificilmente será tão segura e benéfica quanto possível sem um esforço concentrado para torná-la assim.”
Brundage chamou o seu papel de aconselhamento de “basicamente meu emprego dos sonhos” mas disse que quer “passar mais tempo trabalhando em questões que abrangem toda a indústria de AI, ter mais liberdade para publicar e ser mais independente.”
Uma das principais razões para sair são os altos custos de oportunidade devido ao enorme perfil da OpenAI, e seu sentimento de que seu trabalho seria “mais impactante” fora da indústria de AI. Brundage também disse que quer “ser menos tendencioso” e já “feito muito do que se propôs a fazer na OpenAI.”
“Nós apoiamos plenamente a decisão de Miles de seguir sua pesquisa de políticas fora da indústria e somos profundamente gratos por suas contribuições,” disse um porta-voz da OpenAI em um comunicado compartilhado com a Quartz. “Seu plano de dedicar-se totalmente à pesquisa independente sobre políticas de AI lhe dá a oportunidade de ter um impacto em uma escala maior, e estamos empolgados em aprender com seu trabalho e seguir seu impacto. Estamos confiantes de que em seu novo papel, Miles continuará a elevar o padrão da qualidade da formulação de políticas na indústria e no governo.”
Em maio, a OpenAI desmobilizou sua equipe de “super alinhamento,” que estava focada nos perigos existenciais da AI. O co-fundador e ex-cientista-chefe da OpenAI, Ilya Sutskever, e Jan Leike, co-fundador da equipe de super alinhamento, ambos renunciaram da startup de AI naquele mês.
Mira Murati, ex-chefe de tecnologia da empresa, anunciou sua saída da empresa em setembro e foi seguida pelo diretor de pesquisa-chefe da OpenAI, Bob McGrew, e pelo vice-presidente de pesquisa Barret Zoph.
Uma semana após as renúncias, a OpenAI concluiu uma rodada de financiamento de US$ 6,6 bilhões, levando a uma avaliação de US$ 157 bilhões. A startup também está trabalhando em um plano para reestruturar seu status sem fins lucrativos, o que poderia dar ao CEO Sam Altman uma participação acionária significativa.
