安全守护

概念

Guardian 是基于 ApprovalGuard 机制的 AI 安全守护代理，它通过智能审批策略和 LLM 上下文分析来识别潜在风险操作，确保用户对 AI 行为的可控性。

作为 Agent Team 的默认成员，Guardian 通过异步的 requires_approval 和 get_approval 流程与其他 Agent 协同工作，在保障系统安全的同时实现高效的人机协作。

审批策略

• Always: 强制用户审批模式
• Never: 自动通过模式
• Auto-conservative: 保守策略，倾向请求审批
• Auto-permissive: 宽松策略，倾向自动通过

风险等级

• 高风险(always): 必须审批的操作
• 中等风险(maybe): 需要评估的操作
• 低风险(never): 可直接执行的操作

典型风险场景

Web操作

• 表单提交行为
• 邮件发送操作
• 交易/购买行为

代码操作

• 文件系统操作
• 系统信息访问
• 未授权操作

文件操作

• 可疑文件处理
• 配置文件修改

流程图