À medida que a inteligência artificial generativa impulsiona a velocidade do desenvolvimento de software, também está aprimorando a capacidade de atacantes digitais realizarem hacks motivados financeiramente ou patrocinados pelo Estado. Isso significa que as equipes de segurança das empresas de tecnologia têm mais código do que nunca para revisar enquanto lidam com ainda mais pressão de agentes mal-intencionados. Na segunda-feira, a Amazon publicará detalhes pela primeira vez de um sistema interno conhecido como Análise de Ameaças Autônomas (ATA), que a empresa vem utilizando para ajudar suas equipes de segurança a identificar proativamente vulnerabilidades em suas plataformas, realizar análises de variantes para procurar rapidamente outras falhas semelhantes e, em seguida, desenvolver remediações e capacidades de detecção para fechar as brechas antes que os atacantes as encontrem.
ATA nasceu de um hackathon interno da Amazon em agosto de 2024, e membros da equipe de segurança afirmam que se tornou uma ferramenta crucial desde então. O conceito fundamental subjacente ao ATA é que não se trata de um único agente de IA desenvolvido para conduzir de forma abrangente testes de segurança e análises de ameaças. Em vez disso, a Amazon desenvolveu vários agentes de IA especializados que competem entre si em duas equipes para investigar rapidamente técnicas reais de ataque e diferentes formas de como poderiam ser usadas contra os sistemas da Amazon — e depois propor controles de segurança para revisão humana.
“O conceito inicial visava abordar uma limitação crítica nos testes de segurança — cobertura limitada e o desafio de manter atualizadas as capacidades de detecção em um cenário de ameaças em rápida evolução”, diz Steve Schmidt, diretor de segurança da Amazon, à WIRED. “Cobertura limitada significa que você não consegue passar por todo o software ou não consegue chegar a todas as aplicações porque simplesmente não tem humanos suficientes. E é ótimo fazer uma análise de um conjunto de software, mas se você não mantiver os sistemas de detecção atualizados com as mudanças no cenário de ameaças, estará perdendo metade da imagem.”
Como parte da ampliação do uso do ATA, a Amazon desenvolveu ambientes de teste especiais “de alta fidelidade” que são reflexos profundamente realistas dos sistemas de produção da Amazon, para que o ATA possa tanto absorver quanto produzir telemetria real para análise.
As equipes de segurança da empresa também se certificaram de projetar o ATA para que cada técnica empregada e cada capacidade de detecção produzida sejam validadas com testes reais e dados do sistema. Os agentes da equipe vermelha que trabalham para encontrar ataques que poderiam ser usados contra os sistemas da Amazon executam comandos reais em ambientes de teste especiais do ATA que produzem logs verificáveis. A equipe azul, ou agentes focados na defesa, utilizam telemetria real para confirmar se as proteções que estão propondo são eficazes. E sempre que um agente desenvolve uma técnica inovadora, ele também extrai logs com marcação de tempo para comprovar que suas reivindicações são precisas.
Essa verificabilidade reduz os falsos positivos, diz Schmidt, e atua como “gerenciamento de alucinações.” Porque o sistema é construído para exigir certos padrões de evidências observáveis, Schmidt afirma que “alucinações são arquiteturalmente impossíveis.”
