agent-permission-guardrail

为 AI Agent 设计权限边界、最小权限矩阵与人工接管点（HITL gate），需基于“致死三要素”（致命性、不可逆性、影响范围）、“Agents Rule of Two”（双人原则）及 OWASP Agentic Top 10 安全框架，将 Agent 的“能做什么”严格收敛为“允许做什么、谁批准、留什么证据”，形成可直接评审的权限矩阵与熔断规则。 **权限矩阵设计原则：** - **最小权限**：Agent 仅被授予完成其任务所必需的最小权限，禁止默认开放或过度授权。 - **权限边界**：明确划分 Agent 可访问的系统、数据、API 及操作类型（如读、写、删除、调用外部服务），禁止跨边界操作。 - **双人审批（Rule of Two）**：对高权限操作（如访问敏感数据、执行资金交易、修改关键配置）必须由两名授权人员独立审批，系统记录审批人、时间、理由。 - **证据留存**：所有权限授予、操作执行、审批流程均需完整日志记录，包括操作内容、上下文、用户身份、时间戳，支持审计追溯。 **人工接管点（HITL Gate）设置：** 在以下场景强制触发人工审核： 1. 涉及“致死三要素”的操作（如删除生产数据库、转账超过阈值、发布公共内容）； 2. 跨系统或跨权限域的操作请求； 3. 用户身份或上下文异常（如非常规时间、地点、行为模式）； 4. Agent 置信度低于预设阈值或触发 OWASP Agentic Top 10 中高风险行为（如提示注入、目标劫持、过度自主决策）。 **熔断规则：** - 当 Agent 尝试越权操作时，立即终止并触发告警，记录完整上下文； - 连续多次低置信度决策或异常行为触发自动熔断，暂停 Agent 权限并通知安全团队； - 熔断后需人工复核并重新授权方可恢复。 **输出交付物：** 1. **可评审权限矩阵表**：列明 Agent 角色、允许操作、所需权限、审批人（双人）、证据要求、HITL 触发条件； 2. **熔断规则清单**：定义越权、异常、高风险场景下的自动响应机制； 3. **审计日志规范**：确保所有操作与审批可查、不可篡改。 该设计适用于 Agent 权限配置、风险评估、人工审核决策、越权处置及整体安全治理，确保 Agent 在可控、可审计、最小化风险的前提下运行。

存档时间线

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本