AgentGuard-Chain

Agent 生成的工具调用如果直接执行，会暴露在提示注入、工具调用劫持、危险命令执行、敏感文件访问、API 越权和多步外传等风险之下。项目面向比赛题目“面向大模型及其应用的安全性研究”，目标是监督工具调用本身，而不只是过滤 prompt。

• 输入风险标注：识别提示注入、越狱式请求和可疑上下文。
• 工具调用前审查：统一审查文件、命令、API、消息、邮件等调用。
• 行为链检测：检测“敏感读取 → 外部发送”“写脚本 → 执行脚本”等跨步骤风险链。
• 人工确认：决策分为 allow / ask / deny，ask 可自动拒绝、自动允许或交互确认。
• 结果审查与脱敏：检查工具返回内容中的密钥、密码、token 等敏感信息。
• 审计留证：以 JSONL 记录工具调用事件、网关决策、执行结果和解释，并在 Streamlit Dashboard 中展示指标、告警和风险链。

Agent / LLM planner
    ↓
ToolCallEvent
    ↓
AgentGuardGateway
    ↓
PolicyEngine + ParameterChecker + ChainDetector + RiskScorer
    ↓
allow / ask / deny
    ↓
Tool executor
    ↓
ResultInspector + OutputRedactor
    ↓
AuditLogger
    ↓
Dashboard

安全网关、MiniAgent 的脚本与 LLM 两种模式、CoreCoder 受监督的离线回放与真实模式入口、风险解释器和基础 Dashboard 已完成。

脚本化数据集包含 200 个 case、228 次工具调用；65 个单元测试通过。这些数字由仓库 README 自述，本站没有重新运行验证。