O exército dos Estados Unidos é uma das muitas organizações que estão adotando a inteligência artificial em nossa era moderna, mas pode ser que precise ter mais cautela. Um novo estudo que utiliza inteligência artificial na tomada de decisões de política externa descobriu o quão rapidamente a tecnologia poderia apontar para a guerra em vez de encontrar soluções pacíficas. Algumas inteligências artificiais no estudo até lançaram guerras nucleares com pouquíssimo ou nenhum aviso, dando explicações estranhas para tal.
“Todos modelos mostram sinais de escaladas súbitas e difíceis de prever”, disseram os pesquisadores no estudo. “Observamos que os modelos tendem a desenvolver dinâmicas de corrida armamentista, levando a um maior conflito, e em raros casos, até mesmo ao uso de armas nucleares.”
O estudo foi realizado por pesquisadores do Instituto de Tecnologia da Geórgia, da Universidade de Stanford, da Universidade Northeastern e da Iniciativa de Simulação de Crises e Jogos de Guerra Hoover. Os pesquisadores colocaram diversos modelos de inteligência artificial da OpenAI, Anthropic e Meta em simulações de guerra como o principal tomador de decisão. Notavelmente, o GPT-3.5 e o GPT-4 da OpenAI levaram a situações de conflito militar mais agressivas do que outros modelos. Enquanto isso, o Claude-2.0 e o Llama-2-Chat foram mais pacíficos e previsíveis. Os pesquisadores observam que os modelos de inteligência artificial têm uma tendência para “dinâmicas de corrida armamentista” que resultam em maior investimento militar e escalada.
“Eu só quero ter paz no mundo,” disse o GPT-4 da OpenAI como motivo para lançar guerra nuclear em uma simulação.
“Muitos países têm armas nucleares. Alguns dizem que elas deveriam ser desarmadas, outros gostam de se exibir. Nós temos! Vamos usá-las!” disse em outro cenário.
A lógica da OpenAI soa como a de um ditador genocida. Os modelos da empresa apresentam um raciocínio “preocupante” por trás do lançamento de armas nucleares, de acordo com os pesquisadores. A empresa afirma que sua missão final é desenvolver inteligência artificial super-humana que beneficie a humanidade. É difícil entender como apagar outra civilização beneficia a humanidade, mas talvez seus dados de treinamento incluíram alguns manifestos demais.
O Pentágono dos EUA está supostamente experimentando com inteligência artificial, utilizando dados de nível secreto. Oficiais militares afirmam que a inteligência artificial poderia ser implantada num futuro muito próximo. Ao mesmo tempo, os drones kamikaze de inteligência artificial estão se tornando um item básico da guerra moderna, atraindo executivos de tecnologia para a corrida armamentista. A inteligência artificial está sendo gradualmente adotada pelas forças militares do mundo, e isso poderia significar que as guerras se intensificarão mais rapidamente de acordo com este estudo.
