A inteligência artificial está se tornando cada vez mais intrínseca em nossas vidas cotidianas – e a liderança da OpenAI quer que o mundo saiba que está levando a sério os riscos depois que a empresa encerrou a equipe responsável pelos perigos existenciais da IA.
Em um post no X co-assinado pelo CEO da OpenAI, Sam Altman, e pelo presidente Greg Brockman, os executivos disseram que estão continuando a estabelecer as bases para implantar modelos de IA cada vez mais capazes de maneira segura. Porém, escreveram que o futuro será “mais difícil do que o passado”.
“Precisamos continuar elevando nosso trabalho de segurança para combinar com os riscos de cada novo modelo,” disseram no sábado.
“Sabemos que não conseguimos imaginar todos os cenários futuros possíveis,” acrescentaram. “Então precisamos ter um feedback muito apertado, testes rigorosos, consideração cuidadosa em cada etapa, segurança de classe mundial, e harmonia de segurança e capacidades,” incluindo pesquisas de segurança voltadas para diferentes prazos, e colaborando com governos e “muitos interessados” na segurança.”
O post veio um dia depois de a OpenAI revelar que havia desmantelado a equipe de “superalinhamento” liderada pelo co-fundador e cientista-chefe Ilya Sutskever, e Jan Leike, que anunciaram suas saídas da empresa na semana passada. A OpenAI disse que o trabalho da equipe de “superalinhamento” será absorvido por outros esforços de pesquisa em toda a empresa.
Ao se despedir, Leike escreveu em um tópico no X que ele havia chegado a um “ponto de ruptura” devido a discordâncias com as prioridades principais da empresa, acrescentando que a “cultura e processos de segurança ficaram em segundo plano em relação aos produtos brilhantes” nos últimos anos.
Brockman e Altman escreveram no sábado que sabem que Leike continuará “contribuindo para a missão de fora”.
Sutskever – que ajudou brevemente a afastar Altman da liderança da OpenAI no ano passado – e Leike se juntam às fileiras de vários outros funcionários da OpenAI que saíram da empresa recentemente, incluindo outros da equipe de “superalinhamento” e pesquisadores que trabalham em política e governança de IA.
A reestruturação também ocorreu depois que a OpenAI revelou seu novo chatbot de IA, ChatGPT-4o. Mira Murati, diretora de tecnologia da empresa, disse que as capacidades avançadas do novo chatbot representam “novos desafios para nós em termos de segurança”.
