代表项目 · 研究原型
AgentGuard-Chain
面向 LLM Agent 的工具调用安全监督原型。安全边界放在 Agent 生成工具调用之后、工具真实执行之前,对文件访问、命令执行、API 调用和外发行为做审计、评分、阻断与留证,并检测“敏感读取 → 外部发送”这类跨步骤风险链。
已实现来源:仓库 README,查阅于 2026 年 10 月 28 日
- 输入风险标注:识别提示注入、越狱式请求和可疑上下文。
- 工具调用前审查:统一审查文件、命令、API、消息、邮件等调用。
- 行为链检测:检测“敏感读取 → 外部发送”“写脚本 → 执行脚本”等跨步骤风险链。
- 人工确认:决策分为 allow / ask / deny,ask 可自动拒绝、自动允许或交互确认。
- Agent 生成工具调用
- 安全网关审查
- allow / ask / deny
- 执行与结果脱敏
- 审计留证
- Python
- Streamlit