A missão da OpenAI tem se concentrado em levar a inteligência artificial à escala, enquanto seu rival Anthropic tem focado na segurança. Os co-fundadores, irmãos e ex-funcionários da OpenAI, Daniela e Dario Amodei, afirmam que suas preocupações com o potencial de dano da IA originam-se da evolução de outras tecnologias.
“Sentimos fortemente que há lições a serem aprendidas a partir das ondas anteriores de tecnologia ou inovação”, disse Daniela Amodei durante uma entrevista na Bloomberg Technology Summit. “Tivemos algumas décadas para olhar para trás em coisas como as redes sociais e perceber que, embora tenham trazido benefícios, também causaram danos. Se poderíamos ter antecipado esses danos, é difícil dizer, mas estamos tentando ser atores responsáveis e pensar sobre as potenciais externalidades que podem ser causadas acidentalmente por essa tecnologia”, explicou ela.
Os riscos da inteligência artificial generativa têm se tornado mais evidentes nos últimos anos, com chatbots de várias empresas online. Enquanto isso, deepfakes de celebridades, políticos e jornalistas têm sido usados para difamar suas vítimas e espalhar desinformação.
Os Amodeis saíram da OpenAI em 2020 preocupados com a rápida escala das tecnologias de inteligência artificial generativa sem as devidas salvaguardas, optando por construir um modelo mais confiável. Eles têm trabalhado para isso com o chatbot da Anthropic, Claude, anunciado como uma ferramenta “segura, precisa e segura”.
A “IA Constitucional” da Anthropic, um conjunto de regras para treinar sistemas de IA, ajuda a garantir que os modelos sejam treinados para evitar respostas tóxicas e discriminatórias. Esses esforços estão pressionando a indústria em geral a criar modelos mais seguros e responsáveis.
“Demos início ao conceito de um plano de escalonamento responsável, um framework projetado para ajudar empresas de tecnologia a evitarem os riscos de desenvolver sistemas de IA cada vez mais capazes”, disse Dario Amodei. “Lançamos isso em setembro passado, e em poucos meses a OpenAI lançou algo semelhante, parecendo-nos que nossa iniciativa incentivou os esforços de outros. Agora sabemos que o Google está fazendo o mesmo”.
