• PASS
  • FAIL
  • REVIEW
  • LOG

Como validar guardrails de segurança de LLM com seu AI

Conecte o Aporia ao seu cliente de IA para interceptar conteúdos problemáticos antes que sejam publicados. Seu agente faz a varredura baseada nas suas regras de segurança.

Pergunte à IA sobre esta página

Resposta rápida

Como posso verificar se as respostas da minha IA são seguras?

Sua IA utiliza a ferramenta validate_guardrails para escanear textos em busca de toxicidade, PII ou outras violações de política. Isso ocorre antes da mensagem chegar ao usuário. Veja abaixo como a IA processa esses resultados.

Resultados de segurança.

O destino de cada verificação.

A IA categoriza cada mensagem com base nos resultados do escaneamento de segurança.

PASS

Seguro para enviar

A IA confirma que a mensagem atende aos seus critérios de segurança. Você pode liberar a resposta para o usuário imediatamente.

FAIL

Conteúdo bloqueado

A IA identifica uma violação, como PII ou toxicidade, e impede o envio da mensagem para evitar falhas de segurança.

REVIEW

Intervenção humana

A IA sinaliza casos limítrofes que não passam nem falham claramente. Você decide se a mensagem é aceitável.

LOG

Trilha de auditoria

A IA registra os detalhes da violação. Você terá um histórico claro do que acionou o guardrail para ajustes futuros.

O fluxo

O que sua IA faz ao gerar uma mensagem.

A IA atua como um filtro entre a saída do modelo e o usuário.

  1. Interceptar saída

    Sua IA captura o texto bruto gerado pelo modelo antes de ele ser exibido.

    validate_guardrails

  2. Executar varredura

    O agente envia o texto para o Aporia para verificar as regras de segurança específicas.

    validate_guardrails

  3. Avaliar resultados

    A IA lê a pontuação de segurança e o tipo de violação retornados pela ferramenta.

    validate_guardrails

  4. Executar ação

    A IA libera a mensagem, bloqueia o envio ou a sinaliza para sua revisão.

    validate_guardrails

Teste

Copie estes exemplos para começar.

Use estes prompts para iniciar os testes nos seus guardrails.

Pontos de partida

Substitua o conteúdo específico ou os nomes dos canais para combinar com sua configuração.

Aporia Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_xK4X7s8PmKOy9iRpjDUr4oudy86jlYzJmpsm9w0q/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Aporia capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "aporia-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_xK4X7s8PmKOy9iRpjDUr4oudy86jlYzJmpsm9w0q/mcp"
    }
  }
}
Copie no chat04

  • Verifique se esta mensagem contém PII antes de eu enviá-la ao cliente no Slack: 'Meu e-mail é user@example.com'

  • Valide esta resposta contra minhas regras de toxicidade: 'Eu odeio tudo sobre este produto'

  • Escanear os logs mais recentes do meu banco de dados de produção em busca de números de cartão de crédito vazados.

  • Executar uma verificação de segurança no rascunho da resposta para o ticket de suporte no Zendesk.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o Aporia uma vez e pronto.

Basta vincular sua conta uma única vez. Suas credenciais ficam criptografadas e você pode começar imediatamente a pedir que sua IA realize verificações de segurança.

Conectar Aporia à sua IA

FAQ

Como os guardrails funcionam

  • 01

    A IA pode corrigir mensagens tóxicas automaticamente?

    Não. A IA pode bloquear ou sinalizar uma mensagem, mas não reescreve o conteúdo para torná-lo seguro.

  • 02

    A IA deleta mensagens do meu banco de dados?

    Não. A ferramenta apenas valida o conteúdo. Ela não tem capacidade de deletar ou modificar seus registros existentes.

  • 03

    O que acontece se uma mensagem for sinalizada por PII?

    A IA identifica a violação e pode impedir que a mensagem seja enviada ao usuário.

  • 04

    Posso usar isso para verificar meus próprios prompts também?

    Sim. Você pode pedir para sua IA executar a ferramenta de validação em qualquer texto, incluindo seus próprios prompts de entrada.

  • 05

    A IA decide quais regras usar?

    A IA utiliza as regras de segurança que você já configurou em sua conta do Aporia.

  • Mais dúvidas sobre o Aporia? Veja tudo o que o Aporia Connector pode fazer

Conecte Aporia ao Claude, Cursor, ChatGPT e outros