A inteligência artificial está se tornando mais presente em nossas vidas cotidianas – e a liderança da OpenAI quer que o mundo saiba que está levando os riscos a sério depois que a empresa encerrou a equipe responsável pelos perigos existenciais da IA.
Em um post na X coassinado pelo CEO da OpenAI, Sam Altman, e pelo presidente Greg Brockman, os executivos afirmaram que estão continuando a preparar o terreno para implantar modelos de IA cada vez mais capazes de forma segura. No entanto, eles escreveram que o futuro será “mais difícil do que o passado”.
“Precisamos continuar elevando nosso trabalho de segurança para corresponder aos riscos de cada novo modelo”, disseram no sábado.
“Sabemos que não podemos imaginar todos os possíveis cenários futuros”, acrescentaram. “Assim, precisamos ter um ciclo de feedback muito apertado, testes rigorosos, consideração cuidadosa em cada etapa, segurança de classe mundial e harmonia entre segurança e capacidades”, incluindo pesquisa de segurança visando diferentes prazos, e colaboração com governos e “muitos interessados” em segurança.
O post veio um dia depois que a OpenAI disse à Wired que havia dissolvido a equipe de “superalinhamento” liderada pelo cofundador e cientista-chefe Ilya Sutskever, e Jan Leike, que anunciaram suas saídas da empresa na semana passada. A OpenAI disse que o trabalho da equipe de “superalinhamento” será absorvido por outros esforços de pesquisa em toda a empresa.
Após sua saída, Leike escreveu em um post na X que ele havia alcançado um “ponto de ruptura” devido a desentendimentos com as prioridades principais da empresa, acrescentando que “a cultura e os processos de segurança foram deixados de lado em favor de produtos brilhantes” nos últimos anos.
Brockman e Altman escreveram no sábado que sabem que Leike continuará “contribuindo para a missão de fora”.
Sutskever – que ajudou brevemente a afastar Altman da liderança da OpenAI no ano passado – e Leike se juntam às fileiras de vários outros funcionários da OpenAI que saíram da empresa recentemente, incluindo outros da equipe de superaumento e pesquisadores que trabalham em políticas e governança de IA.
A reorganização também aconteceu depois que a OpenAI revelou seu novo chatbot de IA mais recente, ChatGPT-4o. Mira Murati, diretora de tecnologia da empresa, disse que as capacidades avançadas do novo chatbot apresentam “novos desafios para nós em termos de segurança”.
