智能体安全

• ● 风险自主执行权限边界
• - 考点定义：自主智能体在执行自动化动作时必须被限定在明确权限边界内，防止越权或超出预期的操作。
• ● 风险权限隔离
• - 考点定义：智能体的权限应与其他系统/控制机制隔离，权限检查不依赖智能体自身判断。
• ● 风险权限阻断
• - 考点定义：当智能体行为可能越界或扰乱业务时，应具备阻断机制（如独立的授权校验）及时制止。

本批次聚焦"自主智能体的权限与安全保障"，包含两个维度：一是自主代理在执行中可能越权、扰乱业务的风险及对应的权限边界/隔离/阻断控制；二是不同代理类型对任务复杂度的适配。审计员视角要求识别"最需关注的风险"与"最安全的管控方式"。

• 自主威胁检测/事件响应智能体中，审计员最应关注的是：代理可能采取扰乱业务运营的自动化操作（权限越界风险）。
• 部署 LLM 前，管理其代理最安全的方式是：授权与权限检查独立于 LLM 本身执行。
• 根据需求与外部市场条件进行优化的任务，最适合采用基于推理规划的审议型代理。
• 共性：智能体安全的核心是"限定自主权限、独立校验、按需选型"。

• 把"减少分析师干预/提升效率"当作最主要收益而忽视越权扰动风险。
• 将审计日志变长、需扩展网络等运维成本误判为核心安全问题。
• 让 LLM 自行管理数据源与授权（权限未独立）作为"可行"方案。
• 在需推理规划的复杂优化场景误选简单反射或基于规则代理。

• 网络安全：自主威胁检测与事件响应系统
• 大模型（LLM）部署前的安全评估
• 业务优化：根据外部市场条件动态定价（如机票价格）