🛡
风险与治理域 · 考点 风5

治理风险

📝 Tips 笔记解读▾
  • ● 关键词人工智能治理:需方法论与框架,且"越早越好"。
  • 补全:治理应在AI生命周期早期建立框架与策略,而非事后补救。
  • ● 关键词治理结构:责任须明确,使用RACI矩阵、明确所有者;三道防线(业务/风险合规/审计)各司其职;先批准后行动;与第三方责任共担。
  • 补全:有效治理要求决策权限清晰、风险评审在行动前完成、责任到人与跨方共担。
  • ● 风险治理失效信号:若风险评估在用例批准之后才进行、或优先追求部署速度与可扩展性而弱化治理控制,则构成重大治理风险。
  • 补全:命题可考"识别哪种情形最损害治理有效性"。
  • ● 好处/优点主动(前瞻性)风险管理:在AI系统生命周期早期阶段减轻潜在负面影响,优于事后发现偏差/幻觉。
  • 补全:主动风险管理的核心价值是前置缓解,而非加速上线或事后纠错。
⚠ 笔记缺漏补充▾
  • 考点考到"跨部门部署新AI系统时,优先快速部署与可扩展性是对治理的最大风险"——tips的"治理结构"与"越早越好"可支撑,但"速度/可扩展性优先损害治理"需明确补入。
  • 考点考到"支持治理计划目标的最佳方式:制定提升可解释性、透明度与适应性的AI策略"——tips未直接给出此关联,需补:治理目标可通过明确策略(可解释/透明/适应)来支撑。
  • 考点考到"风险评估必须在用例批准前完成(先批准后评估属治理缺陷)"——tips的"先批准后行动"可支撑,但需明确"风险评审须先于批准"。
🎯 考点分析▾

考察主线:本批题聚焦AI治理框架的有效性与正确时序,考查考生识别"何种做法损害治理"以及"何种做法支撑治理目标"。核心矛盾是"速度/部署优先"与"治理/风险前置"的取舍。

正确答案的共同知识方向:

  • 跨部门大规模部署时,将快速部署与可扩展性置于治理控制之上是最大治理风险。
  • 主动风险管理的主要好处,是在AI生命周期早期阶段减轻潜在负面影响。
  • AI项目治理中最应担忧的情形,是风险评估在用例获得批准之后才完成(时序倒置)。
  • 从审计角度最能支持治理目标的是,制定提升可解释性、透明度与适应性的AI策略。

常见干扰方向:

  • 把"加快部署时间表"当成主动风险管理的好处(实际是早期缓解而非提速)。
  • 把"识别开发后偏差/幻觉"当成主动管理的核心(主动强调前置而非事后)。
  • 把治理失效归因于缺乏网络安全整合、未能适应演进能力或外部顾问管理等次要因素。
  • 把治理关注点放在委员会成员辞职、专家流动性高、被拒用例比例等人事/统计表象,而非风险评审时序与责任机制。
  • 在"支持治理目标"题中,把建立伦理委员会、明确角色培训、建立风险登记册等合规动作当作最优选(相较于策略性提升透明/可解释/适应)。

场景分布:

  • 跨多部门部署新AI系统的治理框架评估
  • AI项目立项与用例审批流程
  • 主动风险管理机制设计
  • 审计视角下的治理计划目标支撑
📋 考察范围清单▾
  1. AI治理框架:需方法论与框架,且越早建立越好,覆盖全生命周期。
  2. 治理结构:责任明确(RACI矩阵、明确所有者),三道防线分工(业务/风险合规/审计)。
  3. 先批准后行动:任何AI用例应在获得批准前完成风险评审,时序倒置属治理缺陷。
  4. 第三方责任共担:与供应商/合作方明确AI风险的责任划分。
  5. 速度/部署优先的风险:优先追求快速部署与可扩展性而弱化治理,是治理有效性的最大威胁之一。
  6. 主动(前瞻性)风险管理:价值在于生命周期早期减轻潜在负面影响,而非事后纠错或加速上线。
  7. 风险评审时序:风险评估须在用例批准前完成;批准后再评估是重大治理隐患。
  8. 治理目标支撑:制定提升可解释性、透明度与适应性的AI策略,能从审计角度有效支撑治理计划目标。
  9. 治理失效识别:能区分"真正损害治理的情形"(时序倒置、速度优先)与"表象问题"(人事变动、统计比例)。
← 上一个考点治理结构首页导航下一个考点 →灾难恢复