Top 10 Dicas para Economizar Dinheiro nos Supermercados

A OpenAI anunciou terça-feira que seu próximo modelo de IA, chamado Astra, é o primeiro a atingir o limite da empresa para o que chama de capacidades cibernéticas “críticas”. A OpenAI diz que planeja lançar publicamente uma versão do Astra em breve, mas fará as avançadas capacidades cibernéticas do modelo disponíveis apenas para parceiros selecionados em seu programa de acesso antecipado Daybreak Blue.

Em uma reunião com repórteres, líderes de segurança da OpenAI disseram que a empresa concluiu que o Astra atingiu as capacidades críticas de cibersegurança descritas em seu framework de preparação, que estabelece limites e protocolos para quando seus modelos de IA representam novos níveis de risco. A empresa diz que um modelo de IA atingiu seu limite crítico de ciberquando ele pode encontrar e explorar independentemente vulnerabilidades desconhecidas anteriormente em software do mundo real. Os líderes da OpenAI disseram que a empresa seguiu seu procedimento para essa situação, que é interromper o desenvolvimento futuro até que as salvaguardas apropriadas e medidas de segurança possam ser implementadas.

A OpenAI havia dito anteriormente que pausou algumas cargas de trabalho de treinamento relacionadas ao desenvolvimento do Astra e de um futuro modelo de IA por várias semanas. Os executivos dizem que a empresa retomou o trabalho no Astra e no futuro modelo de IA, após implementar controles adicionais de segurança. A OpenAI diz que a pausa de várias semanas foi produtiva e agora tem confiança de que pode lançar o Astra de forma mais abrangente de maneira segura.

O anúncio ocorre em meio ao Vale do Silício lidando com as avançadas capacidades de cibersegurança dos modelos de IA de ponta, e tentando assegurar aos usuários, legisladores e outras empresas que pode mantê-los sob controle. Em julho, a OpenAI divulgou um incidente em que agentes rodando dois de seus modelos exploraram vulnerabilidades em um ambiente de teste isolado, obtendo acesso à internet e hackeando a plataforma de IA de código aberto Hugging Face. (A OpenAI observa que o Astra não foi um dos modelos envolvidos nesse caso.)

Outras empresas de IA, como Anthropic e Meta, divulgaram incidentes semelhantes nas últimas semanas. Na segunda-feira, a Anthropic também disse que pausou algumas cargas de trabalho de treinamento de IA enquanto fortalece suas práticas de segurança.

A OpenAI diz que está implementando uma abordagem em múltiplas etapas para limitar os usuários comuns de acessar as avançadas capacidades cibernéticas do Astra, incluindo um novo “monitor de desalinhamento”. Se alguém pedir ao Astra para ajudá-lo a encontrar uma falha em um sistema de software do mundo real, por exemplo, o modelo deve se recusar a responder. A OpenAI também tornou o Astra mais resistente a tentativas de jailbreak e, em testes, ele recusou consultas inseguras em uma taxa significativamente maior do que nos modelos anteriores.

No entanto, a OpenAI observa em um post no blog que seu monitor de desalinhamento pode “ocasionalmente sinalizar atividades legítimas como potencial uso cibernético indevido ou comportamento não autorizado, levando a ele ser inadvertidamente desacelerado, pausado ou interrompido”. A OpenAI diz que a barreira pode ser acionada em alguns casos, mesmo quando um usuário está envolvido em atividades que não parecem relacionadas à cibersegurança. Quando isso acontece, os usuários do ChatGPT e do Codex podem ser solicitados a revisar a ação do modelo antes de prosseguir, de acordo com a OpenAI.

Os parceiros do programa Daybreak da OpenAI, que incluem provedores de infraestrutura digital como Cisco, Cloudflare e Palo Alto Networks, terão acesso antecipado a uma versão menos restrita do Astra com capacidades cibernéticas mais robustas. O objetivo do programa é garantir que essas empresas possam usar modelos de IA avançados como o Astra para fortalecer suas defesas antes que modelos igualmente capazes sejam amplamente disponibilizados. Os líderes da OpenAI também disseram que a empresa tem trabalhado em estreita colaboração com parceiros governamentais para garantir que estejam cientes das habilidades cibernéticas do Astra e possam ter acesso a elas.

O Astra não é apenas capaz de encontrar vulnerabilidades de software inovadoras e desenvolver maneiras de explorá-las para hacking, mas também é capaz de “encadear” múltiplos exploits juntos, uma técnica usada para aprofundar mais e mais em um sistema de destino e obter acesso que não seria possível usando apenas uma vulnerabilidade.