À medida que a inteligência artificial generativa impulsiona a velocidade do desenvolvimento de software, também está aprimorando a capacidade de atacantes digitais realizarem ataques financeiramente motivados ou apoiados pelo estado. Isso significa que equipes de segurança em empresas de tecnologia têm mais código do que nunca para revisar, lidando com ainda mais pressão de atores maliciosos. Na próxima segunda-feira, a Amazon publicará detalhes pela primeira vez de um sistema interno conhecido como Análise Autônoma de Ameaças (ATA), que a empresa vem utilizando para ajudar suas equipes de segurança a identificar proativamente vulnerabilidades em suas plataformas, realizar análises de variantes para procurar rapidamente por outras falhas similares e, em seguida, desenvolver remediações e capacidades de detecção para cobrir brechas antes que os atacantes as encontrem.
ATA nasceu de um hackathon interno na Amazon em agosto de 2024, e os membros da equipe de segurança afirmam que se tornou uma ferramenta crucial desde então. O conceito fundamental subjacente ao ATA é que ele não é um único agente de IA desenvolvido para conduzir abrangentes testes de segurança e análises de ameaças. Em vez disso, a Amazon desenvolveu múltiplos agentes de IA especializados que competem entre si em duas equipes para investigar rapidamente técnicas reais de ataque e diferentes maneiras de usá-las contra os sistemas da Amazon—e então propor controles de segurança para revisão humana.
“A ideia inicial visava abordar uma limitação crítica nos testes de segurança—cobertura limitada e o desafio de manter atualizadas as capacidades de detecção em um cenário de ameaças em rápida evolução,” diz Steve Schmidt, o chefe de segurança da Amazon, à WIRED. “Cobertura limitada significa que você não pode passar por todo o software ou não pode chegar a todas as aplicações porque simplesmente não tem pessoas suficientes. E é ótimo fazer uma análise de um conjunto de software, mas se você não mantém os sistemas de detecção em si atualizados com as mudanças no cenário de ameaças, está perdendo metade do quadro.”
Como parte da expansão do uso do ATA, a Amazon desenvolveu ambientes de teste especiais “de alta fidelidade” que são reflexos profundamente realistas dos sistemas de produção da Amazon, para que o ATA possa tanto receber quanto produzir telemetria real para análise.
As equipes de segurança da empresa também fizeram questão de projetar o ATA de modo que cada técnica que ele emprega, e cada capacidade de detecção que produz, seja validada com testes reais e dados do sistema automaticamente. Os agentes da equipe vermelha que trabalham para encontrar ataques que poderiam ser usados contra os sistemas da Amazon executam comandos reais nos ambientes de teste especiais do ATA que produzem registros verificáveis. Já a equipe azul, ou agentes focados na defesa, utilizam telemetria real para confirmar se as proteções que estão propondo são eficazes. E sempre que um agente desenvolve uma técnica inovadora, também extrai registros com carimbo de hora para provar que suas alegações são precisas.
Essa verificabilidade reduz falsos positivos, afirma Schmidt, e atua como “gerenciamento de alucinações.” Como o sistema é construído para exigir determinados padrões de evidências observáveis, Schmidt afirma que “alucinações são arquiteturalmente impossíveis.”
