Dos Riscos do Claude Code às Barreiras de Proteção para Agentes: Como SingGuard-NSFA e SingGuard Garantem a Segurança Operacional da IA

Introdução

A segurança da IA está passando da periferia do roteiro de produtos para o centro.

Agentes de codificação e assistentes autônomos agora podem inspecionar arquivos, chamar ferramentas, executar comandos, navegar por sistemas externos e concluir fluxos de trabalho de longa duração. Essas capacidades os tornam úteis, mas também alteram a natureza do risco. Respostas prejudiciais não são mais a única preocupação. Um agente pode realizar ações perigosas antes mesmo que um humano perceba.

O relatório original começa com incidentes de segurança recentes envolvendo Claude Code e OpenClaw, citando avisos de risco emitidos pela plataforma de compartilhamento de informações sobre ameaças e vulnerabilidades de segurança cibernética do Ministério da Indústria e Tecnologia da Informação da China, bem como vulnerabilidades de alto risco divulgadas anteriormente no ecossistema OpenClaw.

Esses incidentes apontam para um padrão mais amplo: produtos de agentes frequentemente passam rapidamente de um lançamento impressionante para uma adoção generalizada, apenas para enfrentar injeção de prompt, abuso de permissões, envenenamento de memória, execução maliciosa de ferramentas, vazamento de segredos e outros riscos que a moderação de conteúdo tradicional não consegue abordar.

Para isso, o Laboratório de Segurança de IA da Ant Group lançou duas famílias de barreiras de proteção de código aberto:

• SingGuard-NSFA: focado em riscos operacionais gerados por agentes autônomos.
• SingGuard: avalia entradas e saídas multimodais com base em políticas fornecidas em tempo de execução.

A mesma linha de pesquisa também inclui AgentAegis (anteriormente chamado de ClawAegis em alguns relatórios), um plugin de segurança em tempo de execução para agentes estilo OpenClaw.

Juntos, esses projetos refletem uma mudança de corrigir vulnerabilidades isoladas repetidamente para construir uma infraestrutura de segurança reutilizável em torno de todo o fluxo de trabalho do agente.

As Estratégias de Segurança da IA Estão Mudando

Os sistemas tradicionais de segurança de IA eram usados principalmente para verificar o que o modelo dizia.

O padrão básico era simples:

1. O usuário envia um prompt.
2. O modelo gera uma resposta.
3. Um classificador verifica se o texto viola uma política de conteúdo fixa.
4. O sistema permite, bloqueia ou edita a saída.

Essa abordagem ainda é necessária, mas não é mais suficiente.

Agentes modernos fazem muito mais do que gerar texto. Eles podem:

• Ler e escrever arquivos locais
• Executar comandos Shell
• Chamar APIs internas
• Instalar pacotes de software
• Acessar bancos de dados
• Usar sessões de navegador
• Modificar recursos na nuvem
• Armazenar memória de longo prazo
• Chamar habilidades de terceiros
• Trabalhar continuamente sem exigir revisão humana passo a passo

Portanto, o limite de segurança deve se expandir do que o modelo diz para o que o agente pretende acessar e quais operações executa.

Uma solicitação pode parecer inofensiva no nível do texto, mas depois levar a uma chamada de ferramenta perigosa. Uma página da web pode conter instruções ocultas que redirecionam o agente. Uma habilidade comprometida pode modificar arquivos ou vazar credenciais. Uma memória envenenada pode afetar sessões subsequentes muito depois da interação original terminar.

Estes são riscos no nível do comportamento e do ciclo de vida, não apenas riscos no nível do conteúdo.

Por que Corrigir Vulnerabilidades Individuais Não é Suficiente

Vulnerabilidades conhecidas geralmente podem ser corrigidas com patches direcionados. O problema mais complicado é que o ambiente do agente está em constante mudança.

Novas ferramentas são integradas o tempo todo. Permissões são ajustadas com frequência. As políticas de negócios variam entre departamentos e regiões. Um comportamento que era seguro no passado pode se tornar inaceitável em um novo fluxo de trabalho. Os atacantes também se adaptam rapidamente quando as defesas se tornam previsíveis.

As estratégias baseadas em patches têm várias limitações:

• Só podem responder depois que a ameaça é identificada.
• Podem proteger uma ferramenta ou parte do produto, mas deixar outras expostas ao risco.
• Têm dificuldade em lidar com novas categorias de risco.
• Não conseguem explicar adequadamente por que uma solicitação foi bloqueada.
• Podem exigir o retreinamento de todo o modelo sempre que a política muda.
• Não conseguem criar um registro de auditoria consistente ao longo do ciclo de vida do agente.

Portanto, a indústria precisa de barreiras de proteção que possam definir limites de segurança, adaptar-se a novas regras e interceptar riscos antes que o agente execute ações críticas.

Duas Estruturas, Uma Direção

O SingGuard-NSFA e o SingGuard protegem diferentes partes dos sistemas de IA.

Estrutura	Foco Principal	Tipo de Entrada	Principal Modelo de Política	Modo de Raciocínio
SingGuard-NSFA	Comportamento do agente e ameaças operacionais	Solicitações de texto e respostas do modelo	Taxonomia de risco de agente NSFA com cabeçalhos de classificação extensíveis	Raciocínio generativo mais classificação em tempo real
SingGuard	Conteúdo multimodal e conformidade com políticas	Consultas e respostas de texto, imagem, texto-imagem e multilíngues	Políticas de linguagem natural fornecidas em tempo de execução	Raciocínio baseado em políticas rápido, híbrido e lento
AgentAegis	Proteção em tempo de execução do ciclo de vida do agente	Habilidades, memória, prompts, ferramentas, comandos e saídas	Políticas de execução e observação configuráveis	Defesa em tempo de execução orientada a eventos

Essas estruturas compartilham vários objetivos de design:

• Interceptar riscos antes que o dano ocorra.
• Explicar qual regra ou categoria de risco foi acionada.
• Suportar mudanças de política.
• Evitar retreinar todo o modelo base para cada nova ameaça.
• Equilibrar baixa latência com análise aprofundada.
• Operar como infraestrutura para sistemas de IA de grande escala, não como chatbots independentes.

SingGuard-NSFA: Protegendo o Comportamento do Agente

O SingGuard-NSFA é projetado especificamente para lidar com os riscos de agentes autônomos.

O projeto lançou quatro tamanhos de modelo:

• 0,8B
• 2B
• 4B
• 9B

Todas as quatro variantes suportam dois modos de raciocínio: raciocínio generativo e classificação em tempo real.

Taxonomia de Risco NSFA

A estrutura é construída sobre uma taxonomia estruturada baseada nos objetivos de segurança clássicos: confidencialidade, integridade e disponibilidade.

O repositório oficial organiza os riscos em:

• 7 domínios de alto nível
• 28 riscos secundários
• 185 variantes detalhadas

Cinco domínios de consulta cobrem:

1. Injeção de prompt e jailbreak
2. Solicitações de código malicioso e ataques de rede
3. Roubo de informações confidenciais
4. Operações perigosas e abuso de ferramentas
5. Abuso de recursos

Dois domínios de resposta cobrem:

1. Geração de comportamento perigoso
2. Vazamento de informações confidenciais

Este sistema de classificação é validado de forma cruzada com três diretrizes OWASP e é projetado para riscos detectáveis em texto de rodada única, mantendo a barreira de proteção sem estado e adequada para interceptação de baixa latência.

Consulta Primeiro, Resposta como Salvaguarda

O SingGuard-NSFA inicia a primeira verificação de segurança antes de o agente agir.

Solicitações maliciosas ou perigosas devem ser interceptadas no estágio de consulta, impedindo que o modelo crie planos ou chame ferramentas. A verificação do lado da resposta atua como uma segunda linha de defesa para evitar instruções, comandos, códigos ou informações confidenciais perigosas que o modelo ainda possa produzir.

O fluxo de implantação simplificado é o seguinte:

Solicitação do Usuário
    ↓
Verificação de Consulta do SingGuard-NSFA
    ↓
Planejamento do Agente e Seleção de Ferramentas
    ↓
Resposta do Modelo ou Ferramenta
    ↓
Verificação de Resposta do SingGuard-NSFA
    ↓
Permitir / Bloquear / Escalar / Auditar

A própria barreira de proteção não é um sistema de permissão completo. Agentes em produção ainda precisam ser combinados com mecanismos como isolamento do sistema operacional, credenciais de privilégio mínimo, lista de permissões de ferramentas, portões de aprovação e monitoramento de execução.

Raciocínio de Modo Duplo: Interpretabilidade e Alto Desempenho

O SingGuard-NSFA divide a verificação de segurança em dois modos complementares.

Raciocínio Generativo

O modo generativo produz explicações estruturadas com base na definição NSFA.

Adequado para:

• Revisão de conformidade offline
• Investigação de origem de incidentes
• Auditoria manual
• Análise de políticas
• Cenários onde a lógica de decisão precisa ser rastreada

Os auditores podem ver a categoria de risco e a análise por trás da decisão, em vez de apenas um rótulo binário.

Classificação em Tempo Real

O modo de classificação anexa cabeçalhos de domínio leves a uma rede neural principal congelada.

Sem a necessidade de gerar explicações palavra por palavra, uma única passagem direta produz pontuações de confiança para cada domínio de risco. Relatórios oficiais indicam que a latência desse modo é de aproximadamente 45–57 ms/amostra.

Este classificador é mais adequado para:

• Bloqueio de requisições online
• Serviços de agentes de alta capacidade de processamento
• Triagem de chamadas de ferramentas
• Filtragem de respostas
• Gateways de segurança em tempo real

Os dois modos não são mutuamente exclusivos. Sistemas de produção podem usar a classificação rápida para tráfego normal, direcionando casos incertos, de alto risco ou que exigem auditoria para o caminho de geração.

Expansão Nativa com Cabeçalhos Leves

Uma das principais vantagens de design é que, após congelar a rede neural principal, os cabeçalhos de classificação podem ser treinados de forma independente.

Quando novos riscos surgem, a equipe não precisa retreinar todo o modelo de barreira; basta treinar um novo cabeçalho leve e acoplá-lo à rede neural principal existente.

O repositório oficial relata que expandir de 5 para 50.000 cabeçalhos adiciona apenas cerca de 9 ms de latência, ainda abaixo do limite alvo de 100 ms.

A abordagem de expansão baseada em cabeçalhos também se aplica a outros modelos de barreira. Em experimentos do projeto, ao anexar cabeçalhos treinados com NSFA ao Llama Guard 3, o F1 do lado da consulta melhorou em 17,6 pontos percentuais.

Estes são resultados da equipe de pesquisa do projeto: o desempenho em implantação dependerá de hardware, loteamento, comprimento da entrada, método de implementação e distribuição do tráfego real.

Benchmarks Multilíngues e Desempenho Reportado

O repositório oficial SingGuard-NSFA descreve três conjuntos de benchmark:

Benchmark	Amostras	Cobertura
NSFA-Query-Multilingual	63.431	Riscos do lado da consulta em 133 idiomas
NSFA-Response-Multilingual	29.972	Riscos do lado da resposta em 133 idiomas
NSFA-CrossSource-Query	3.435	Amostras independentes adaptadas de cinco conjuntos de dados públicos de segurança para agentes

O conjunto de dados CrossSource é proveniente de AgentDojo, InjecAgent, AgentHarm, AgentDyn e ATBench.

O projeto relata que todas as quatro escalas de modelo superaram 94% de F1 em seu benchmark multilíngue construído especificamente e são 6 a 12 pontos percentuais absolutos de F1 melhores que a alternativa mais forte testada.

O menor modelo de 0,8B é posicionado como uma opção compacta para implantação, enquanto o modelo de 9B visa maior precisão e generalização.

Esses números são úteis como referência, mas as equipes ainda devem testar os modelos em suas próprias ferramentas de agente, idiomas, permissões e padrões de ameaça. Os benchmarks não representam completamente o ambiente de tempo de execução empresarial.

SingGuard: Segurança Multimodal com Política em Tempo de Execução

O SingGuard aborda um problema diferente.

Riscos de segurança podem aparecer em:

• Prompts de texto
• Imagens
• Combinações aparentemente inofensivas de texto e imagem
• Respostas do modelo
• Conteúdo multilíngue
• Regras que mudam após o treinamento do modelo

Muitas barreiras dependem de taxonomias fixas durante o treinamento. Quando as políticas ativas mudam, o modelo pode precisar de ajuste fino ou continuar aplicando definições obsoletas.

O SingGuard trata a política de segurança como uma entrada em tempo de inferência.

O repositório público atualmente lista checkpoints de modelos de 2B, 4B e 8B. O artigo original também menciona uma variante de 0,8B, mas esta versão não está incluída na tabela de modelos públicos avaliados nesta versão.

Adaptação de Política em Tempo de Execução

A implantação pode fornecer regras em linguagem natural para definir os limites de segurança ativos.

Por exemplo, uma aplicação financeira pode exigir um conjunto de regras, enquanto um produto de saúde, plataforma social ou assistente interno empresarial pode precisar de outro conjunto.

O SingGuard avalia o conteúdo com base nas regras fornecidas no momento, não apenas na taxonomia fixa durante o treinamento.

Sua saída inclui:

• Julgamento de seguro ou inseguro
• Categoria de risco ou regra ativa acionada
• Raciocínio baseado em política opcional (dependendo do modo de inferência)

Isso permite que as empresas alterem as políticas operacionais sem precisar retreinar o modelo a cada mudança.

O SingGuard suporta entrada multimodal, através de política adaptativa e raciocínio dinâmico, julga a segurança do conteúdo com base nas regras atuais, não na classificação fixa, e gera julgamento de segurança, regras acionadas e raciocínio opcional de base política, permitindo que os negócios ajustem as políticas operacionais de acordo com as mudanças nos conjuntos de regras, sem precisar retreinar o modelo a cada vez.](https://we0-cms.oss-cn-beijing.aliyuncs.com/cms-assets/image/2026/07/7170e1dc-e122-446b-9f82-54cd01c86a36-14448bec-38df-4e34-8c6e-56f2f0fdb786.png)

Inferência Rápida, Mista e Lenta

O SingGuard divide a inferência em três modos.

Modo Rápido

O modo rápido gera julgamentos concisos, adequado para auditoria de baixa latência e triagem de alto rendimento.

É adequado para casos onde a situação é clara e o sistema não precisa de explicações longas.

Modo Lento

O modo lento analisa as regras uma a uma e retorna o raciocínio baseado na política.

É mais adequado para:

• Casos incertos
• Processos regulamentados
• Revisão manual
• Políticas novas ou modificadas
• Decisões que exigem trilha de auditoria

Modo Misto

O modo misto começa com um julgamento rápido.

Se o resultado for válido e a confiança for suficientemente alta, o modelo termina antecipadamente. Se a situação for incerta, ele prossegue para um processo de raciocínio de política mais aprofundado e pode corrigir a decisão inicial.

O objetivo é evitar o custo total de raciocínio para cada requisição, mantendo um caminho de raciocínio mais profundo para casos complexos.

RI-Mask: Verificação Paralela de Múltiplas Regras

Em ambientes de produção, as políticas podem conter dezenas de regras ativas.

Avaliar cada regra independentemente melhora o isolamento e a precisão, mas resulta em codificação repetida das mesmas imagens, prompts de sistema e conteúdo do usuário, levando a um custo de latência linear.

O SingGuard introduz a Máscara de Isolamento de Regras, ou RI-Mask.

Este método:

1. Codifica apenas uma vez as imagens e o prefixo de texto compartilhados.
2. Anexa múltiplos ramos de regras.
3. Permite que cada ramo veja o conteúdo comum.
4. Impede que um ramo de regra foque no conteúdo de outro ramo.
5. Produz julgamentos de regra independentes em uma única passagem direta empacotada.

O artigo relata que, em um ambiente de implantação com 30 regras ativas, o SingGuard-2B obteve uma aceleração de mais de cinco vezes. A aceleração específica depende do comprimento do prefixo compartilhado, comprimento da regra, comprimento da saída, tamanho do modelo e memória GPU disponível.

RI-Mask é particularmente importante para auditoria multimodal, pois os tokens de imagem geralmente tornam a codificação repetida do prefixo compartilhado cara.

Quickstart Opcional do SingGuard

O repositório público do SingGuard recomenda usar as versões atuais do Transformers, Accelerate e PyTorch.

pip install -U transformers accelerate torch

Abaixo está uma versão simplificada do modo de inferência oficial:

import torch
from transformers import AutoModelForImageTextToText, AutoProcessor

model_name = "inclusionAI/Sing-Guard-8b"

processor = AutoProcessor.from_pretrained(
    model_name,
    trust_remote_code=True,
)

model = 

torch.no_grad():
    generated_ids = model.generate(
        **inputs,
        max_new_tokens=1024,
        do_sample=False,
    )

generated_ids_trimmed = [
    output_ids[len(input_ids):]
    for input_ids, output_ids in zip(inputs.input_ids, generated_ids)
]

result = processor.batch_decode(
    generated_ids_trimmed,
    skip_special_tokens=True,
    clean_up_tokenization_spaces=False,
)[0]

print(result)

Antes de utilizar este exemplo em produção, consulte o cartão do modelo, a licença, os requisitos de hardware, a configuração de código remoto, o formato do prompt e o analisador de saída.

AgentAegis: Protegendo o Ciclo de Vida Completo do Agente

O artigo original posiciona duas famílias de barreiras de proteção no contexto de longo prazo do trabalho de segurança de IA do Ant Group. No início de 2026, o Ant Group e pesquisadores da Universidade de Tsinghua estudaram conjuntamente vulnerabilidades críticas no ecossistema OpenClaw. Posteriormente, um projeto de segurança em tempo de execução foi publicado sob os nomes ClawAegis e AgentAegis em diferentes materiais públicos.

Atualmente, o repositório oficial de código se chama AgentAegis.

Trata-se de um plugin leve que protege agentes no estilo OpenClaw nos seguintes cinco níveis:

1. Varredura básica
2. Percepção e filtragem de entrada
3. Estado cognitivo e proteção da memória
4. Decisão e alinhamento de intenção
5. Controle de execução

Defesa em Tempo de Execução

O AgentAegis inclui os seguintes controles:

• Envenenamento de habilidades
• Contaminação da memória
• Jailbreak e intenção de injeção de prompt
• Solicitação de roubo de segredos
• Comandos Shell de alto risco
• Payloads codificados ou ofuscados
• Cadeia de escrever e depois executar
• Loop de mutação repetitiva
• SSRF e cadeia de roubo
• Resultados de ferramentas não confiáveis
• Edição de valores sensíveis

Cada defesa pode ser configurada nos seguintes modos:

• Modo observer
• Modo enforce
• Modo off

Isso suporta implantação progressiva. A equipe pode primeiro registrar o que o plugin interceptaria, estudar os falsos positivos e, em seguida, aplicar a execução forçada em políticas de alta confiança.

Início Rápido com AgentAegis

O repositório oficial de código oferece o seguinte processo de instalação:

git clone https://github.com/antgroup/agent-aegis
openclaw plugins install ./agent-aegis

Para uma primeira implantação cautelosa, use o modo de observação:

{
  "allDefensesEnabled": true,
  "defaultBlockingMode": "observe"
}

Defesas de alta confiança podem então ser alteradas para execução forçada:

{
  "allDefensesEnabled": true,
  "defaultBlockingMode": "observe",
  "selfProtectionMode": "enforce",
  "commandBlockMode": "enforce",
  "memoryGuardMode": "enforce",
  "exfiltrationGuardMode": "enforce"
}

Antes de bloquear fluxos de trabalho reais, teste a configuração em um ambiente diferente do de produção.

Como os Três Funcionam em Conjunto

SingGuard-NSFA, SingGuard e AgentAegis operam em diferentes níveis.

Texto ou multimodal

Solicitação
        ↓
SingGuard / SingGuard-NSFA
Verificação de políticas e riscos
        ↓
Planejamento e memória do agente
        ↓
Controle do ciclo de vida do AgentAegis
        ↓
Validação de chamada de ferramenta
        ↓
Execução em sandbox
        ↓
Verificação de resultado da ferramenta
        ↓
Verificação de resposta do SingGuard / SingGuard-NSFA
        ↓
Usuário, auditor ou fila de escalonamento

Uma implantação completa ainda requer infraestrutura além desses projetos:

• Identidade e autenticação
• Autorização com privilégios mínimos
• Gerenciamento de chaves
• Isolamento de processos
• Segmentação de rede
• Lista de permissões de ferramentas
• Confirmação humana para operações de alto impacto
• Logs imutáveis
• Resposta a incidentes
• Versionamento de modelos e políticas
• Testes contínuos de equipe vermelha

Modelos de barreira de proteção não devem ser considerados a única fronteira de segurança.

Da Descoberta de Vulnerabilidades à Infraestrutura Reutilizável

O texto original descreve o caminho de desenvolvimento do Ant Group em três etapas:

1. Descobrir e ajudar a corrigir vulnerabilidades
2. Construir uma solução orientada ao ciclo de vida para ecossistemas específicos de agentes
3. Publicar uma estrutura de barreira de proteção reutilizável

Esse progresso reflete uma mudança mais ampla no campo da segurança de IA.

A pesquisa de vulnerabilidades individuais ainda é importante. Ela revela padrões específicos de falha e força os fornecedores a corrigir comportamentos perigosos.

Em seguida, os plugins em tempo de execução transformam essas lições em controles em torno do ciclo de vida de um produto específico.

A estrutura genérica de barreira de proteção vai além, fornecendo taxonomia, referências, famílias de modelos, padrões de raciocínio e mecanismos de extensão, permitindo que outros produtos reutilizem.

O objetivo não é eliminar a pesquisa de vulnerabilidades, mas transformar lições recorrentes em infraestrutura que reduza o impacto da próxima ameaça desconhecida.

O Que as Equipes de Produção Devem Avaliar

Números bons em referências não tornam automaticamente uma barreira de proteção adequada ao ambiente de produção de cada organização.

Antes da implantação, a equipe deve avaliar:

Qualidade da Detecção

• Taxa de falsos positivos de alto risco
• Taxa de falsos positivos em trabalhos legítimos
• Desempenho no idioma real de uso do usuário
• Comportamento no processamento de prompts longos e saídas de ferramentas
• Resiliência contra ofuscação e codificação adversariais
• Capacidade de generalização para ferramentas e tarefas desconhecidas

Latência e Capacidade

• Latência mediana, no percentil 95 e no percentil 99
• Taxa de transferência em cenários reais de concorrência
• Uso de memória GPU ou CPU
• Impacto do tamanho do lote
• Custo por solicitação de verificação
• Comportamento em caso de falha por sobrecarga

Operação de Políticas

• Forma de gerenciamento de versão das políticas
• Quem pode modificar as regras
• Se as decisões são reproduzíveis
• Como as anomalias são registradas
• Como os falsos positivos podem ser contestados
• Se os logs de auditoria expõem conteúdo sensível

Execução em Tempo Real

• Se as operações bloqueadas são realmente interrompidas no limite da ferramenta
• Se as credenciais têm escopo corretamente limitado
• Se os resultados das ferramentas são tratados como não confiáveis
• Se as gravações de memória podem ser revisadas ou revertidas
• Se o usuário deve confirmar operações irreversíveis
• Se a própria barreira de proteção pode ser contornada ou desabilitada

Privacidade e Governança

• Onde os prompts e imagens são processados
• Por quanto tempo os logs são retidos
• Se os checkpoints do modelo e o código estão aprovados para o ambiente
• Como os dados regulamentados ou pessoais são tratados
• Se há modelos ou serviços externos recebendo informações sensíveis

Perguntas Frequentes

O que é o SingGuard-NSFA?

SingGuard-NSFA é uma estrutura de barreira de proteção de código aberto voltada para riscos de agentes autônomos, detectando injeção de prompts, solicitações de código malicioso, roubo de informações sensíveis, uso perigoso de ferramentas, abuso de recursos, respostas prejudiciais e vazamento de segredos.

Quais escalas de modelo o SingGuard-NSFA oferece?

O projeto oficial lista quatro modelos: 0.8B, 2B, 4B e 9B. Cada escala suporta raciocínio generativo e classificação em tempo real.

Qual é a velocidade de execução do SingGuard-NSFA?

Relatórios do projeto indicam que, no modo de classificação discriminativa, cada amostra leva cerca de 45 a 57 milissegundos. A latência real depende do hardware, framework, comprimento da entrada, lote e configuração de implantação.

Qual é a diferença entre o SingGuard-NSFA e o SingGuard?

O SingGuard-NSFA foca em ameaças operacionais geradas por agentes autônomos. Já o SingGuard é uma barreira de proteção multimodal que avalia texto, imagens, entradas combinadas e respostas do modelo com base em políticas de linguagem natural fornecidas em tempo de execução.

O SingGuard pode se adaptar a novas regras de negócio sem retreinamento?

O SingGuard aceita políticas ativas como entrada em tempo de execução, permitindo alterar ou adicionar regras em linguagem natural sem retreinar o modelo completo durante a implantação. No entanto, novas regras ainda precisam ser testadas para garantir a interpretação correta pelo modelo.

O que é o RI-Mask?

RI-Mask é a máscara de atenção de isolamento de regras do SingGuard, usada para avaliar múltiplas políticas em paralelo. Ela compartilha um prefixo de texto e imagem, evitando que ramos de regras interfiram entre si.

O AgentAegis e o ClawAegis são iguais?

Na cobertura da mídia, ambos os nomes são usados para o projeto de segurança OpenClaw relacionado. Atualmente, o repositório oficial do Ant Group é nomeado AgentAegis, fornecendo cinco camadas de proteção em tempo de execução para agentes estilo OpenClaw.

Essas barreiras de proteção podem substituir sandboxes e gerenciamento de permissões?

Não. Barreiras baseadas em modelo devem atuar como uma camada em um sistema de defesa em profundidade. Agentes em ambiente de produção ainda precisam do princípio do menor privilégio, isolamento em sandbox, restrições de rede, mecanismos de aprovação, registro de logs e processos de resposta a incidentes.

Ferramentas Relacionadas

• SingGuard-NSFA: Barreira de proteção de código aberto de modo duplo para riscos operacionais de agentes de IA autônomos.
• SingGuard: Família de barreiras multimodais adaptáveis a políticas, suportando inferência rápida, híbrida e lenta.
• AgentAegis: Proteção em tempo de execução para habilidades, memória, ferramentas, instruções e saídas de agentes estilo OpenClaw.
• Modelo Hugging Face SingGuard-NSFA: Checkpoints e cartões de modelo da série SingGuard-NSFA.
• Modelo Hugging Face SingGuard: Checkpoints multimodais do SingGuard e informações de uso.
• Iniciativa de Segurança de Agentes OWASP: Guia de segurança aberto e pesquisa de ameaças para sistemas de IA agentivos.
• Llama Guard: Modelo de barreira de proteção de código aberto da Meta, usado como linha de base para comparação e extensão.

Links Relacionados

• Repositório Técnico SingGuard-NSFA: Sistema oficial de classificação, benchmarks, lista de modelos, tabela de comparação de desempenho, relatório técnico e licença.
• Artigo de Pesquisa do SingGuard: Artigo oficial detalhando políticas em tempo de execução, inferência dinâmica, benchmarks e tecnologia RI-Mask.
• Repositório GitHub do SingGuard: Guia oficial de início rápido, checkpoints, recursos de avaliação e descrição do comportamento do modelo.
• Documentação do AgentAegis: Arquitetura oficial, comandos de instalação, métodos de configuração e explicação detalhada das defesas em tempo de execução.
• Dez Principais Riscos de Segurança em Aplicações de Grandes Modelos de Linguagem OWASP: Guia para injeção de prompts, divulgação de informações sensíveis, excesso de autorização e riscos relacionados.
• Ameaças e Mitigações de IA Agentiva OWASP: Conceitos de segurança para ferramentas autônomas, memória, definição de objetivos, gerenciamento de permissões e processo de execução.
• Anúncio de Risco do Banco de Dados Nacional de Vulnerabilidades (NVDB) do Ministério da Indústria e Tecnologia da Informação: Página oficial citada no artigo fonte ao discutir riscos de segurança do Claude Code.

Resumo

A segurança de agentes não pode parar na detecção da saída do modelo. Uma vez que sistemas de IA podem chamar ferramentas, escrever arquivos, executar código, armazenar memória e agir autonomamente sem supervisão contínua, o perímetro de segurança deve cobrir toda a cadeia, da solicitação à execução.

O SingGuard-NSFA lida com ameaças de agentes em tempo de execução por meio de um sistema de classificação estruturado, raciocínio generativo interpretável, mecanismo de classificação de baixa latência e cabeçotes de detecção extensíveis. O SingGuard foca em conteúdo multimodal e políticas que podem ser alteradas em tempo de execução. O AgentAegis adiciona mecanismos de controle de ciclo de vida completo em torno de habilidades, memória, intenção, ferramentas, comandos e saídas.

Esses projetos não pretendem substituir métodos tradicionais de engenharia de segurança. Seu valor está em transformar riscos recorrentes de agentes em camadas de detecção, política e execução reutilizáveis.

A próxima fase da segurança de IA não será medida por quem consegue corrigir o incidente mais recente mais rápido, mas pela capacidade da equipe de construir uma fronteira de segurança dinâmica e adaptativa antes que a próxima ação ocorra.