风险管理

本页目录：Tips 笔记解读笔记缺漏补充考点分析考察范围清单

📝 Tips 笔记解读▾

以下为 tips_pdf_text.txt 中直接服务于本考点的笔记条目（逐条标注类型并补全为可命题的考点定义）：

「将风险控制在可承受范围内」 → ● 关键词风险承受能力(risk appetite / risk tolerance)。补全定义：组织应先识别自身对人工智能风险的可承受水平，并通过缓解措施将风险敞口持续控制在可承受范围之内；当模型行为超出该水平时须调整参数或限制使用，而非放任。
「鲁棒性」一节中的「极端条件/意外/极限/微小改变/对抗性输入」 → ● 风险对抗性输入与极端/异常条件可致模型输出失效或被操纵。补全定义：应通过防御性蒸馏、对抗性测试、红队演练/模拟黑客等手段提升稳定性与弹性，主动识别安全差距。
「模型验证」一节中的「上线前必须经过模型验证，目的是符合设计（业务）要求，验证模型泛化能力」 → ● 风险未经验证即上线可能使模型不符合业务设计目标。补全定义：上线前须以交叉验证、挑战者模型等方式确认模型泛化能力，这是风险管理的前置控制。
「供应商管理」一节（数据所有权、知识产权、环境安全、SLA、第三方独立证明、锁定条款） → ● 风险第三方人工智能供应带来数据权属与连续性风险。补全定义：对供应商须明确数据所有权、SLA、独立证明与退出/锁定条款，作为外部风险来源的管理要点。
「事件响应」一节（隔离、根本原因分析、定期演练） → ● 风险人工智能安全事件缺乏预案会扩大损失。补全定义：应建立"隔离—根因分析"的响应流程并定期演练。

⚠ 笔记缺漏补充▾

以下知识点考点明显在考，但 tips 未覆盖或仅一句话未展开，命题时须补入：

风险应对分类（回避 / 转移 / 缓解 / 接受）：考点考察根据场景判定某项控制属于哪一类应对。
风险评估的核心目的＝制定缓解策略：tips 仅提"控制在可承受范围"，未说明评估本身的目标是产出缓解方案。
风险超承受能力时的处置＝推迟/不部署：tips 未明确"超出承受能力即不应上线"这一刚性结论。
威胁建模与脆弱性评估：作为主动识别漏洞的手段，tips 仅在鲁棒性中提到"对抗性测试/红队"，未单列"威胁建模/脆弱性评估"术语。

🎯 考点分析▾

考察主线：本批题围绕"如何把人工智能风险控制在组织可承受范围内"这一总目标展开，既考风险承受能力的概念（调参对齐、验证影响在范围内、超承受能力推迟部署），也考具体识别与缓解手段（威胁建模、脆弱性评估、定期更新补洞、风险应对分类），并考治理层面的强制评估要求。整体偏"风险治理与控制选择"的判断。

正确答案的共同知识方向（只写方向，不写原句）：
1. 风险评估的最核心产出是制定/落实缓解策略，而非仅做分类或监控。
2. 当风险超出组织承受能力时，正确动作是推迟或拒绝部署，而非申请例外或重定承受力。
3. 风险敞口须通过缓解方案降至可承受范围，管理层责任在此而非买保险或外部认证。
4. 模型参数应与组织风险偏好对齐，优先安全而非激进创新。
5. 威胁建模/脆弱性评估的价值在于主动识别潜在漏洞。
6. 高风险环境下定期更新软件是为修补漏洞、降低输出完整性被攻击的风险。
7. 偏差测试后须确认模型输出影响仍落在可接受风险水平内。
8. 引入多模型交叉比对以降低不确定性属于"缓解"类风险应对（须区分回避/转移/缓解/接受）。
9. 人工智能流程最关键治理差距是未规定关键系统的强制性评估要求。
10. 测试模型安全性的最重要操作是脆弱性评估。

常见干扰方向（错误选项通常误导的方向，概括）：
1. 用"购买保险/外部认证/董事会例外批准"等外部或程序性动作替代实质性风险控制。
2. 把"重新评估风险承受能力使其放宽"当作正确处置（颠倒主次）。
3. 用"增强数据/重新训练/停止使用该工具"等单一技术动作替代风险对齐或缓解。
4. 把性能评估、合规检查、防漂移当作威胁建模/安全测试的目的。
5. 把"减少人工监督需求"作为更新的收益（实为负向）。

场景分布（题目常用业务场景类型）：
1. 组织内部人工智能模型风险评估与部署决策。
2. 医疗人工智能治疗方案推荐（患者安全优先）。
3. 交易/推荐类系统向客户提供人工智能生成建议。
4. 高风险环境下运行的人工智能系统运维（更新、漏洞）。
5. 信息系统审计员审查人工智能流程（治理差距、风险应对归类）。

📋 考察范围清单▾

出题必须覆盖以下知识点，每条一行，格式"知识点：一句话定义/边界"：

风险承受能力(risk appetite/tolerance)：组织可接受的AI风险水平，所有缓解动作应使风险敞口落在此范围内。
风险评估目的：识别风险并制定缓解策略，是部署前的前置控制产出，而非仅做数据分类或性能监控。
超承受能力处置：当偏见/危害风险超过承受能力时，应推迟或拒绝部署，不得靠例外批准或重定承受力绕过。
参数对齐风险偏好：医疗等安全优先场景应调整模型参数使输出符合组织风险承受能力，而非盲目追求高成功率方案。
威胁建模演练：定期对AI系统与数据做威胁建模，核心价值是主动识别潜在漏洞。
脆弱性评估：测试AI模型安全性时，最重要操作是开展脆弱性评估以发现弱点。
软件更新与补洞：高风险环境定期更新用于修补漏洞、降低输出完整性受攻击风险，不应以减少人工监督为目标。
风险应对四分类：回避/转移/缓解/接受的定义与区分，多模型交叉比对等控制属于"缓解"。
偏差测试后验证：偏差测试后须确认模型输出影响仍在可接受风险水平内，验证测试有效性。
强制评估治理：AI流程最关键差距是未规定关键系统所需强制性（风险）评估，审计应建议补齐。
供应商风险管理：对AI供应商须管理数据所有权、知识产权、SLA、第三方独立证明与锁定/退出条款。
事件响应：AI安全事件应遵循"隔离—根本原因分析"流程并定期演练。

📄 Tips.pdf 补充对照▾

核心原则：将风险控制在可承受范围内

→ 打开 PDF 补充页查看全部条目