Inteligência artificial está se tornando cada vez mais integrada em nossas vidas cotidianas – e a liderança da OpenAI quer que o mundo saiba que está levando a sério os riscos, após a empresa ter fechado a equipe responsável pelos perigos existenciais da IA.
Em uma postagem no X assinada pelo CEO da OpenAI Sam Altman e pelo presidente Greg Brockman, os executivos disseram que estão continuando a estabelecer as bases para implementar modelos de IA cada vez mais capazes de forma segura. Mas, eles escreveram, o futuro será “mais difícil do que o passado”.
“Continuamos a aprimorar nosso trabalho de segurança para corresponder aos riscos de cada novo modelo”, disseram eles no sábado.
“Sabemos que não podemos imaginar todos os cenários futuros possíveis”, acrescentaram. “Portanto, precisamos ter um ciclo de feedback muito apertado, testes rigorosos, consideração cuidadosa em cada etapa, segurança de classe mundial e harmonia de segurança e capacidades”, incluindo pesquisa de segurança visando diferentes escalas de tempo, e colaborando com governos e “muitas partes interessadas” na segurança.
A postagem foi feita um dia depois que a OpenAI disse à Wired que havia desmantelado a equipe “superalignment” liderada pelo co-fundador e cientista-chefe Ilya Sutskever, e Jan Leike, que anunciaram suas saídas da empresa na semana passada. A OpenAI disse que o trabalho da equipe “superalignment” será absorvido por outros esforços de pesquisa em toda a empresa.
Após sua saída, Leike escreveu em uma thread no X que ele havia atingido um “ponto de ruptura” devido a discordâncias com as prioridades centrais da empresa, acrescentando que “a cultura e os processos de segurança ficaram em segundo plano em relação a produtos brilhantes” nos últimos anos.
Brockman e Altman escreveram no sábado que sabem que Leike continuará a contribuir para a missão de fora.
Sutskever – que ajudou brevemente a afastar Altman da liderança da OpenAI no ano passado – e Leike se juntam às fileiras de vários outros funcionários da OpenAI que saíram da empresa recentemente, incluindo outros da equipe “superalignment” e pesquisadores que trabalham em política e governança de IA.
A reorganização também ocorreu depois que a OpenAI revelou seu novo chatbot de IA, ChatGPT-4o. Mira Murati, diretora de tecnologia da empresa, disse que as capacidades avançadas do novo chatbot representam “novos desafios para nós em termos de segurança.”
