📝 Tips 笔记解读▾
- ● 风险模型盗窃：偷模型参数。→ 模型盗窃（Model Theft / Extraction）指攻击者窃取模型的架构、权重、超参数等内部参数。
- ● 风险目的：复制模型、研究模型漏洞。→ 盗窃模型的目的通常是克隆出替代模型，或借参数研究并利用其安全漏洞。
- ● 关键词措施：加强权限控制和访问控制。→ 防护模型盗窃的核心控制是严格的权限管理与访问控制。
- ● 风险模型反演：偷模型数据。→ 模型反演（Model Inversion）指通过模型推断出其训练数据中的敏感信息。
- ● 风险目的：获取敏感信息。→ 模型反演的目的不是偷模型本身，而是借模型输出反推出训练集中个人隐私/机密数据。
⚠ 笔记缺漏补充▾
- 须明确区分"模型泄露"与"数据泄露/信息泄露"：本考点指模型被盗与模型反演（针对模型本身或其训练数据），不同于隐私维度的数据泄露，也不同于数据集拆分中训练/验证重叠导致的"信息泄露"（后者属数据验证范畴）。命题时不可混淆。
- 考点考查"模型配置/权重/超参数泄露"后果（攻击者可利用漏洞、复制模型），可补充。
- 考点考查"定期模拟攻击并更新查询处理逻辑"作为降低模型被盗风险的有效手段，可补充。
- 模型反演的实现手法：通过向已训练模型提交特制查询输入，从输出中反推敏感训练数据。
🎯 考点分析▾
- 考察主线：本批题区分"模型盗窃（偷参数/架构）"与"模型反演（偷数据）"两类模型泄露，并考查其严重后果与防护措施，强调权限控制、加密、访问管理与对抗性模拟。
- 正确答案的共同知识方向：
- - 模型盗窃后果：配置/权重泄露后攻击者可利用漏洞、复制模型。
- - 模型盗窃防护：对模型组件实施严格访问控制与加密。
- - 模型被盗风险降低：定期模拟攻击并加固查询处理逻辑。
- - 模型反演识别：通过特制查询从模型提取敏感信息属模型反演。
- - 防护主线：权限控制 + 访问控制是模型资产保护的核心。
- 常见干扰方向：
- - 把模型泄露后果错归为"降低模型性能""用于合法改进"等轻微影响。
- - 把防护错归为"员工培训""保密协议""数据审计日志"等间接/无关措施。
- - 把模型反演误判为数据漂移、数据中毒或模型盗窃。
- 场景分布：专有模型配置泄露、模型架构/权重保护、模型被盗风险评估、查询式敏感信息提取。
📋 考察范围清单▾
- 模型泄露（Model Leakage，本考点特指）：包含模型盗窃与模型反演，针对模型资产本身，非隐私数据泄露。
- 模型盗窃（Model Theft / Extraction）：窃取模型架构、权重、超参数、配置等内部信息。
- 模型盗窃目的：复制/克隆模型，或研究并利用模型安全漏洞。
- 模型盗窃后果：攻击者可利用漏洞、复现模型、绕过安全机制。
- 模型反演（Model Inversion）：通过查询训练好的模型，从其输出反推训练数据中的敏感信息。
- 模型反演目的：获取训练数据中的隐私/机密信息（区别于偷模型）。
- 模型盗窃防护-访问控制：对模型组件实施严格访问控制与权限管理。
- 模型盗窃防护-加密：对模型权重/配置加密存储与传输。
- 模型盗窃防护-模拟攻击：定期模拟攻击并据以更新查询处理逻辑，降低被盗风险。
- 模型配置泄露风险：专有模型的配置信息泄露属严重风险，可使攻击者利用漏洞。
- 辨析要求：能区分模型盗窃、模型反演、数据中毒、数据漂移等相邻威胁。
📄 Tips.pdf 补充对照▾
- 模型盗窃：偷模型参数；目的：复制模型、研究模型漏洞；措施：加强权限控制和访问控制
- 模型反演：偷模型数据；目的：获取敏感信息
→ 打开 PDF 补充页查看全部条目