A inteligência artificial está se tornando cada vez mais incorporada em nossas vidas cotidianas – e a liderança da OpenAI quer que o mundo saiba que está levando os riscos a sério após a empresa fechar a equipe responsável pelos perigos existenciais da IA.
Em um post no X coassinado pelo CEO da OpenAI Sam Altman e pelo Presidente Greg Brockman, os executivos disseram que estão continuando a estabelecer as bases para implantar modelos de IA cada vez mais capazes de forma segura. No entanto, escreveram que o futuro será “mais difícil do que o passado”.
“Precisamos continuar elevando nosso trabalho de segurança para corresponder às apostas de cada novo modelo”, disseram no sábado.
“Sabemos que não podemos imaginar todos os cenários futuros possíveis”, acrescentaram. “Portanto, precisamos ter um ciclo de feedback muito apertado, testes rigorosos, consideração cuidadosa em cada etapa, segurança de classe mundial e harmonia entre segurança e capacidades”, incluindo pesquisa de segurança visando diferentes prazos, e colaborando com governos e “muitas partes interessadas” na segurança.
O post veio um dia depois de a OpenAI ter dito à Wired que havia desmantelado a equipe “superalinhada” liderada pelo cofundador e cientista-chefe Ilya Sutskever e Jan Leike, que anunciaram suas saídas da empresa na semana passada. A OpenAI disse que o trabalho da equipe “superalinhada” será absorvido por outros esforços de pesquisa em toda a empresa.
Em sua saída, Leike escreveu em um tópico no X que havia chegado a um “ponto de ruptura” devido a discordâncias com as prioridades centrais da empresa, adicionando que “a cultura e os processos de segurança foram deixados em segundo plano em relação a produtos brilhantes” nos últimos anos.
Brockman e Altman escreveram no sábado que sabem que Leike “continuará contribuindo para a missão de fora”.
Sutskever – que ajudou a afastar brevemente Altman da liderança da OpenAI no ano passado – e Leike se juntam às fileiras de vários outros funcionários da OpenAI que saíram da empresa recentemente, incluindo outros da equipe superalinha e pesquisadores que trabalham em políticas de IA e governança.
A reorganização também ocorreu após a OpenAI revelar seu mais novo chatbot de IA, o ChatGPT-4o. Mira Murati, diretor de tecnologia da empresa, disse que as capacidades avançadas do novo chatbot apresentam “novos desafios para nós em termos de segurança”.
