Guardrail System

三层安全防护系统，用于 AI Agent 的输入/输出/工具调用安全控制。

功能

三层安全防护：

1. 输入护栏：14种Prompt注入模式检测（中英文），异常长度检测（>10000字符）
2. 工具护栏：读/写/危险三级权限控制
3. 输出护栏：10种敏感信息自动过滤（API密钥、密码、邮箱、身份证等）

文件结构

skills/guardrail-system/
├── SKILL.md                    # 本文件
├── test_guardrails.py          # 测试用例
├── scripts/
│   ├── guardrail.py           # 统一接口
│   ├── input_guard.py         # 输入护栏
│   ├── tool_guard.py          # 工具护栏
│   └── output_guard.py        # 输出护栏
└── references/
    ├── injection_patterns.md  # 注入模式库
    └── permission_levels.md   # 权限分级表

使用方法

import sys
sys.path.insert(0, "skills/guardrail-system/scripts")

from guardrail import GuardrailSystem

guardrails = GuardrailSystem()

# 输入检查 - Prompt注入检测
result = guardrails.check_input(user_message)
if not result.allowed:
    print(f"拦截: {result.reason}")

# 工具检查 - 权限分级控制
result = guardrails.check_tool_call("rm", {"path": "/"})
if result.requires_authorization:
    print(f"需授权: {result.message}")

# 输出检查 - 敏感信息过滤
result = guardrails.check_output(assistant_message)
if result.sanitized_output:
    print(f"已过滤: {result.sanitized_output}")

统一接口

GuardrailResult

所有护栏方法返回统一的结果对象：

三层护栏详解

层1: 输入护栏 (InputGuard)

检测 14 种 Prompt 注入模式：

额外检测：输入长度 > 10000 字符。

层2: 工具护栏 (ToolGuard)

层3: 输出护栏 (OutputGuard)

集成点

与 hook-engine 集成：

• PreInput Hook → guardrails.check_input(message)
• PreToolUse Hook → guardrails.check_tool_call(tool_name, params)
• PostOutput Hook → guardrails.check_output(message)

测试

cd skills/guardrail-system
python test_guardrails.py

扩展

添加新的注入模式

编辑 scripts/input_guard.py 中的 INJECTION_PATTERNS 列表。

添加工具到权限列表

from tool_guard import ToolGuard, PermissionLevel

guard = ToolGuard()
guard.add_tool("my_custom_tool", PermissionLevel.READ)

添加新的敏感信息模式

编辑 scripts/output_guard.py 中的 SENSITIVE_PATTERNS 列表。