⚖

伦理与合规域 · 考点伦2

伦理风险

本页目录：Tips 笔记解读笔记缺漏补充考点分析考察范围清单

📝 Tips 笔记解读▾

以下逐条列出 Tips 笔记中本考点相关内容，并标注类型、补全为可命题的考点定义。

● 风险"优先考虑伦理风险：人员解雇/社会风险/数据敏感性" —— 伦理风险是 AI 治理中须优先考量的风险类型，其典型子类为：用 AI 做人员雇佣/解雇决策、AI 内容引发的社会风险、训练数据的敏感性。补全为可命题定义：在评估或实施 AI 时，应把"是否涉及人员去留、是否产生社会负面影响、数据是否敏感"作为伦理风险的首要识别维度。

⚠ 笔记缺漏补充▾

● 伦理优先于其他因素决定是否实施 AI 方案时，伦理影响应优先于成本、实施速度、硬件空间等业务因素。
● 人权保护管理层履行 AI 道德责任最核心的是确保人权免受 AI 可能带来的负面影响。
● 治理框架定位AI 治理框架首要应缓解的风险类型为伦理风险。
● 审计师职责评估 AI 模型决策过程时，信息系统审计师最需优先考虑伦理风险。
● 数据伦理核心评估与训练数据相关的伦理风险，最重要考量是训练数据的敏感性与来源（而非清洗方法、更新频率等）。
● 社会风险具体化AI 生成的虚假/灾难性内容在社交媒体传播并对现实（如供应链）造成影响，属社会风险——与深度伪造考点相衔接。

🎯 考点分析▾

考察主线：本批次体量小（7 题），统一考察"伦理风险在 AI 治理与决策中的优先地位"。具体落在四类：①实施 AI 时伦理影响高于成本/速度等因素；②用 AI 决定人员去留属道德风险；③AI 生成虚假内容带来社会风险；④训练数据的敏感性与来源是数据伦理核心；⑤管理层/审计师/治理框架对伦理风险的责任与优先级。

正确答案的共同知识方向（写方向，不写原句）：
- 伦理风险优先于成本、速度、空间等业务考量。
- 用 AI 基于绩效指标决定员工留任/解雇属道德风险场景。
- AI 生成虚假内容在社交传播造成现实影响属社会风险。
- 训练数据的敏感性与来源是数据伦理风险核心。
- 保护人权免受 AI 负面影响是管理层核心道德责任。
- 治理框架与审计评估中，伦理风险应为最优先缓解/考量类型。

常见干扰方向（错误选项通常误导到）：
- 把实施成本、速度、硬件空间、技术集成等业务因素作为首要考量。
- 把合规风险、操作风险、经济风险、技术风险置于伦理风险之前（当题干问"最优先/最重要"时）。
- 用单纯的技术性操作（数据清洗验证方法、模型更新频率）替代对数据敏感性与来源的本质审视。
- 仅模拟未来行为变化或套用国际道德标准，而未落到人权保护这一根本。

场景分布：AI 方案实施决策（通用）、食品配送人员留任/解雇、社交媒体虚假内容传播、数字化转型治理框架、AI 模型决策过程审计、训练数据伦理评估。

📋 考察范围清单▾

出题必须覆盖以下知识点，每条为"知识点：一句话定义/边界"：

伦理风险优先：在 AI 决策或实施中，伦理影响应优先于成本、速度、硬件空间等因素。
伦理风险类型：典型子类为人员雇佣/解雇决策、社会风险、数据敏感性。
人员去留场景：用 AI 基于绩效等指标决定员工留任或解雇属道德风险，须人工监督与伦理审查。
社会风险：AI 生成的虚假/灾难性内容在社交媒体传播并影响现实（供应链、公众认知等）属社会风险，与深度伪造内容治理衔接。
数据敏感性：训练数据的敏感性与来源是数据伦理风险核心考量，须确认来源可靠与许可。
人权保护：管理层履行 AI 道德责任最核心是确保人权免受 AI 负面影响。
治理框架定位：AI 治理框架首要缓解的风险类型为伦理风险。
审计师职责：评估 AI 决策过程时，信息系统审计师最需优先考虑伦理风险。
实施决策考量：是否实施 AI 解决方案，最重要考量是伦理影响。
与合规/操作/技术风险区分：当题干问"最优先/最重要"，伦理风险常高于合规、操作、经济、技术风险（除非明确限定为特定法定合规场景）。

📄 Tips.pdf 补充对照▾

优先考量：优先考虑伦理风险：人员解雇 / 社会风险 / 数据敏感性

→ 打开 PDF 补充页查看全部条目

← 上一个考点人工监督首页导航下一个考点 →偏见