Líderes da OpenAI Dizem Que Vão ‘Continuar Elevando’ a Segurança Depois de Desmantelarem Sua Equipe de Perigos Existenciais

A inteligência artificial está se tornando cada vez mais presente em nossas vidas cotidianas – e a liderança da OpenAI quer que o mundo saiba que está levando a sério os riscos após a empresa ter fechado a equipe responsável pelos perigos existenciais da IA.
Em um post no X co-assinado pelo CEO da OpenAI Sam Altman e pelo Presidente Greg Brockman, os executivos afirmaram que estão continuando a lançar as bases para implantar modelos de IA cada vez mais capazes de forma segura. Mas, escreveram, o futuro será “mais difícil do que o passado”.
“Precisamos continuar elevando nosso trabalho de segurança para combinar com os riscos de cada novo modelo”, disseram no sábado.
“Sabemos que não podemos imaginar todos os possíveis cenários futuros”, acrescentaram. “Então, precisamos ter um ciclo de feedback muito apertado, testes rigorosos, consideração cuidadosa em cada etapa, segurança de classe mundial e harmonia entre segurança e capacidades”, incluindo pesquisa de segurança direcionada para diferentes escalas de tempo e colaboração com governos e “muitos interessados” em segurança.
A postagem veio um dia depois que a OpenAI disse à Wired que havia dissolvido a equipe “superalignment” liderada pelo co-fundador e cientista-chefe Ilya Sutskever, e Jan Leike, que anunciou suas saídas da empresa na semana passada. A OpenAI disse que o trabalho da equipe “superalignment” será absorvido por outros esforços de pesquisa em toda a empresa.
Após sua saída, Leike escreveu em um thread no X que ele havia atingido um “ponto de ruptura” por discordâncias com as prioridades principais da empresa, acrescentando que “a cultura e os processos de segurança ficaram em segundo plano para os produtos brilhantes” nos últimos anos.
Brockman e Altman escreveram no sábado que sabem que Leike continuará “a contribuir para a missão de fora”.
Sutskever – que ajudou a afastar brevemente Altman da liderança da OpenAI no ano passado – e Leike se juntam às fileiras de vários outros funcionários da OpenAI que saíram da empresa recentemente, incluindo outros da equipe superalignment e pesquisadores que trabalham em políticas e governança de IA.
A reorganização também veio após a OpenAI revelar seu novo chatbot de IA, ChatGPT-4o. Mira Murati, diretora de tecnologia da empresa, disse que as capacidades avançadas do novo chatbot apresentam “novos desafios para nós em termos de segurança.”