📝 Tips 笔记解读▾
- ● 风险法律法规要求：红线 —— AI系统处理个人数据须严格满足隐私法律法规的强制性合规要求，这是不可逾越的底线，违规将面临法律处罚。
- ● 关键词脱敏 / 数据掩码 / 匿名化 / 模糊化 / 准标识符泛化 —— 通过对直接标识符替换、加密或对准标识符进行区间/范围泛化，降低个体被识别的风险。
- ● 关键词披露 + 同意 —— 使用个人数据前须向数据主体充分披露用途并取得其明确同意，这是合法处理个人数据的基础。
- ● 关键词分类 / 加密 / 同态加密 —— 对个人数据按敏感度分级，并采用加密（含支持密文计算的全同态加密）保护存储与处理安全。
- ● 风险跨国：数据跨境与数据主权合规 —— 将个人数据跨境转移须满足数据主权与跨境传输合规要求，否则构成重大合规风险。
- ● 关键词数据脱敏与掩码（将用户输入的身份标识符进行加密替换） —— 在系统输入/输出环节对身份标识符做掩码或加密替换，防止敏感标识暴露。
- ● 好处/优点隐私差分（向数据集中注入受控数学噪声，在提供群体统计规律的同时无法通过逆向工程还原个人数据） —— 差分隐私以可控噪声提供可量化的隐私保护保证，兼顾数据可用性与个体隐私。
- ● 关键词K-匿名（对准标识符进行区间泛化，确保数据集里每个特征组合至少包含K个个体，防止身份反向重构） —— 准标识符泛化使每条记录至少与K-1个他人不可区分，抵御重识别。
⚠ 笔记缺漏补充▾
- 隐私影响评估（PIA）：在AI系统部署前系统性识别、评估并降低隐私风险，是金融、医疗等高敏感场景风险管理的关键前置动作。
- 数据最小化原则：数据收集应限于实现目的所必需的最小范围，而非无差别全量保留。
- 同意机制须前置嵌入：合法的同意必须在数据收集/使用开始前以明确选项嵌入流程，而非事后补录或默认勾选。
- 合成数据用于隐私保护：当缺乏合规真实样本时，可用合成数据或匿名数据集训练模型以规避个人数据暴露。
- 模型输出层泄露与成员推断/重构攻击：攻击者可通过精心构造查询或分析模型输出反推、重识别个人数据，须以差分隐私等技术在训练与输出环节防护。
🎯 考点分析▾
- 考察主线：本批题聚焦"个人数据在AI生命周期（收集、训练、共享、对外调用）中的合规与防护"。重点考察识别何种做法会触发隐私泄露或违规，以及对应的正确防护技术与管理动作（匿名化、差分隐私、同意、PIA、最小化）。
- 正确答案的共同知识方向：
- - 防泄露首选技术：数据掩码/匿名化/脱敏是阻止敏感信息在输出或训练中暴露的核心手段。
- - 差分隐私用于抵御重识别与成员推断攻击，确保模型不会泄露某个体数据是否被使用。
- - 合法使用个人数据须以"明确同意+可退出"及透明同意管理为前提，且同意须在使用前取得。
- - 高风险做法：将组织/客户机密数据输入公共或外部生成式AI工具，构成未经授权的披露与保密性泄露。
- - 合规关键管理动作：开展隐私影响评估（PIA）、实施数据最小化、遵守隐私法规、验证数据保护要求。
- 常见干扰方向：
- - 把"人工监控/访问控制/加密"当成防止输出泄露的首选（这些重要但非最直接对策）。
- - 用"提高准确率、模型自主性、增加数据量"等性能/业务角度混淆隐私合规目标。
- - 把事后删除、事后匿名化、内部政策声明当作最核心的合规保障。
- - 以透明度、幻觉、偏见等其他AI风险替代"个人信息披露"这一最直接的隐私风险。
- 场景分布：医疗患者数据训练、金融机构客户数据、零售个性化营销、聊天机器人/客服、与第三方或供应商共享数据、员工将机密数据导入公共生成式AI、跨国或社交媒体公开数据训练。
📋 考察范围清单▾
- 数据脱敏/掩码/匿名化：对身份标识符做加密替换或泛化，是阻止AI输出/训练泄露个人数据的基础技术。
- 差分隐私：向数据注入受控噪声以抵御逆向重构与成员推断攻击，确保个体不可被识别。
- K-匿名与准标识符泛化：通过区间/范围泛化使每条记录至少与K个个体不可区分，防止身份反向重构。
- 同意与披露：个人数据的收集与使用须取得明确、前置、可退出的同意，并保持透明。
- 隐私影响评估（PIA）：部署前识别并降低隐私风险，是高风险AI应用的风险管理前置动作。
- 数据最小化原则：仅收集与目的相匹配的最小必要数据，不过度保留。
- 合成数据/匿名数据集训练：在缺乏合规真实样本时用于规避个人数据暴露。
- 对外/公共AI工具的数据泄露风险：将机密或客户数据输入外部、公共生成式AI构成未经授权披露与保密性泄露。
- 模型输出层泄露：模型共享/对外输出可能意外暴露敏感个人信息，需重训练并施加隐私保护技术。
- 隐私法规合规红线：使用公开社媒等数据须有合法基础，否则违反数据隐私法规并招致处罚。
- 数据分类与加密（含同态加密）：按敏感度分级并以加密保护存储与处理。
- 数据跨境与数据主权：跨境传输个人数据须满足主权与合规要求。
📄 Tips.pdf 补充对照▾
- 法律法规：红线要求
- 脱敏技术：脱敏 / 数据掩码 / 匿名化 / 模糊化 / 准标识符泛化
- 披露 + 同意：使用前充分披露并取得同意
- 数据保护：分类 / 加密 / 同态加密
- 跨国：数据跨境与数据主权合规
- 输入输出掩码：将用户输入的身份标识符进行加密替换
- 差分隐私：注入受控数学噪声，提供群体统计规律的同时无法逆向还原个人数据
- K-匿名：对准标识符区间泛化（如生日转年龄段、邮编模糊化），每个特征组合至少含 K 个个体
→ 打开 PDF 补充页查看全部条目