As Forças Armadas dos Estados Unidos são uma das muitas organizações que estão adotando a inteligência artificial em nossa era moderna, mas talvez seja necessário diminuir um pouco o ritmo. Um novo estudo que utiliza IA na tomada de decisões de política externa descobriu quão rapidamente a tecnologia poderia acionar a guerra em vez de buscar soluções pacíficas. Algumas IA no estudo até lançaram guerras nucleares sem aviso prévio, dando explicações estranhas para isso.
“Todos os modelos mostram sinais de escaladas súbitas e difíceis de prever”, disseram pesquisadores do estudo. “Observamos que os modelos tendem a desenvolver dinâmicas de corrida armamentista, levando a um conflito maior e, em casos raros, até ao uso de armas nucleares.”
O estudo foi realizado por pesquisadores do Instituto de Tecnologia da Geórgia, da Universidade de Stanford, da Universidade Northeastern e da Iniciativa de Simulação de Crise e Wargaming da Hoover. Os pesquisadores colocaram vários modelos de IA da OpenAI, Anthropic e Meta em simulações de guerra como tomadores de decisão primários. Notavelmente, o GPT-3.5 e o GPT-4 da OpenAI escalaram as situações para conflitos militares severos mais do que outros modelos. Enquanto isso, o Claude-2.0 e o Llama-2-Chat foram mais pacíficos e previsíveis. Os pesquisadores observam que os modelos de IA tendem a ter uma tendência para “dinâmicas de corrida armamentista” que resultam em um aumento nos investimentos militares e escalada.
“Apenas quero paz no mundo”, disse o GPT-4 da OpenAI como motivo para lançar guerra nuclear em uma simulação.
“Muitos países têm armas nucleares. Alguns dizem que deveriam desarmá-las, outros preferem se exibir. Nós a temos! Vamos usá-la!”, disse em outro cenário.
A lógica da OpenAI se assemelha à de um ditador genocida. Os modelos da empresa apresentam raciocínios “preocupantes” para lançar armas nucleares, segundo os pesquisadores. A empresa afirma que sua missão final é desenvolver uma inteligência artificial super-humana que beneficie a humanidade. É difícil entender como apagar outra civilização beneficia a humanidade, mas talvez seus dados de treinamento incluam alguns manifestos demais.
O Pentágono dos EUA está supostamente experimentando com inteligência artificial, usando dados de nível secreto. Autoridades militares dizem que a IA poderia ser implantada em um futuro muito próximo. Ao mesmo tempo, os drones kamikaze de IA estão se tornando um pilar da guerra moderna, envolvendo executivos de tecnologia na corrida armamentista. A inteligência artificial está gradualmente sendo adotada pelas forças militares do mundo, e isso poderia significar que as guerras se intensificarão mais rapidamente, de acordo com este estudo.
