A inteligência artificial está se tornando cada vez mais presente em nossas vidas cotidianas — e a liderança do OpenAI quer que o mundo saiba que está levando a sério os riscos após a empresa fechar a equipe responsável pelos perigos existenciais da IA.
Em uma postagem na X coassinada pelo CEO do OpenAI Sam Altman e pelo Presidente Greg Brockman, os executivos afirmaram que estão continuando a preparar o terreno para a implantação de modelos de IA cada vez mais capazes de maneira segura. No entanto, escreveram que o futuro será “mais difícil do que o passado”.
“Precisamos continuar elevando nosso trabalho de segurança para combinar com os riscos de cada novo modelo”, disseram eles no sábado.
“Sabemos que não podemos imaginar todos os cenários futuros possíveis,” acrescentaram. “Portanto, precisamos ter um feedback muito criterioso, testes rigorosos, consideração cuidadosa a cada passo, segurança de classe mundial e harmonia entre segurança e capacidades,” incluindo pesquisa de segurança voltada para diferentes escalas de tempo, e colaboração com governos e “muitos interessados” em segurança.
A postagem veio um dia depois que o OpenAI disse à Wired que havia desfeito a equipe de “superalinhamento” liderada pelo cofundador e cientista-chefe Ilya Sutskever, e Jan Leike, que anunciaram suas saídas da empresa na semana passada. O OpenAI afirmou que o trabalho da equipe de “superalinhamento” será absorvido por outros esforços de pesquisa em toda a empresa.
Após sua saída, Leike escreveu em um tópico na X que ele havia atingido um “ponto de ruptura” devido a discordâncias com as prioridades essenciais da empresa, acrescentando que “a cultura de segurança e os processos foram deixados em segundo plano em relação aos produtos brilhantes” nos últimos anos.
Brockman e Altman escreveram no sábado que sabem que Leike continuará a contribuir para a missão de fora.
Sutskever — que ajudou brevemente a remover Altman da liderança do OpenAI no ano passado — e Leike se juntam às fileiras de vários outros funcionários do OpenAI que saíram recentemente da empresa, incluindo outros da equipe de superalinhamento e pesquisadores que trabalham em políticas e governança de IA.
A reestruturação também ocorreu depois que o OpenAI revelou seu novo chatbot de IA, ChatGPT-4o. Mira Murati, diretora de tecnologia da empresa, disse que as capacidades avançadas do novo chatbot representam “novos desafios para nós em termos de segurança”.
