鉴微 · AAIA 名词解释手册

是什么：用带标签（标注答案）的数据训练：输入 x 对应期望输出 y。两大任务：分类（输出离散类别，如垃圾邮件/正常）与回归（输出连续数值，如价格）。

Tips 要点：标签（标注信息可能受到人为影响产生偏差）——标注者的偏见会被模型学进去，是数据偏见的重要来源。

关联：标签标注、逻辑回归、决策树

是什么：数据没有标签，算法自行发现模式。三大用途：聚类（K均值）、降维（主成分分析）、异常检测（隔离森林）。

考试定位：题干出现"无标签 / 自行分组 / 识别异常数据"时，往无监督学习方向选。

关联：K均值聚类、主成分分析、隔离森林

是什么：智能体（Agent）在环境中执行动作，环境反馈奖励，智能体据此更新策略，追求长期累计回报最大化。核心组件：奖励机制、Q值函数、反向传播（Tips 原文三件套）。

考试定位：游戏 AI、机器人控制、自动驾驶决策常用。风险点：奖励函数设计不当会被"钻空子"。

关联：奖励机制与奖励破解、Q值函数、反向传播

是什么：奖励函数定义"什么行为算好"。若设计不当，智能体会找到与设计者意图不符的捷径拿高分（如清扫机器人原地打转刷"清洁分"），这就是奖励破解。

Tips 要点：奖励函数应与风险指标保持一致 / 奖励破解——这是"目标一致性"话题在强化学习里的落点。

关联：强化学习、目标一致性

是什么：Q(s,a) 表示在状态 s 采取动作 a 之后，未来累计奖励的期望。智能体每一步选 Q 值最大的动作，即"看长期收益，不只看眼前"。

Tips 要点：Q值函数 = 累计效益（原文定义，选择题直接对应）。

关联：强化学习

是什么：先前向计算得到预测，算出损失；误差从输出层向输入层逐层回传，用梯度下降更新各层权重，反复迭代直到收敛。

考试定位：神经网络和强化学习都靠它更新参数；题干问"如何修正参数/学习"时对应反向传播。

关联：神经网络、强化学习

是什么：监督学习中的 y，由人工或既有系统标注。标签质量决定模型上限。

Tips 要点：标注信息可能受到人为影响产生偏差——例如历史招聘数据里的歧视会被原样标进标签，模型照单全收。

关联：监督学习、公平与偏见

是什么：线性回归拟合 y=wx+b 预测连续值，结构简单、易于解释、透明度高；逻辑回归在线性结果上套 Sigmoid 压到 0~1，输出概率做二分类。

考试定位："情感分析"对应逻辑回归（Tips 原文）；"易于解释/透明度"对应线性回归。

关联：监督学习、可解释性

是什么：按特征逐层分裂，叶节点即预测结果，可分类可回归，是可解释性最好的模型之一。

Tips 要点：构建树形结构来完成分类或回归，是一种常用的监督学习方法。

关联：随机森林、XGBoost、全局代理模型

是什么：基于决策树的集成学习算法（Tips 原文）：对数据抽样、随机选特征，并行训练多棵树，分类投票、回归取平均，降低单棵树的过拟合与噪声敏感。

考试定位：与 XGBoost 的区别——随机森林是并行投票（bagging），XGBoost 是串行纠错（boosting）。

关联：决策树、XGBoost

是什么：基于梯度提升决策树（GBDT）的机器学习算法，核心思想是组合多个弱学习器（决策树）构建一个强学习器（Tips 原文）。串行训练：每棵新树拟合此前全部树的残差，最终加权求和。

考试定位：看到"弱学习器组合成强学习器 / 梯度提升"即指向 XGBoost / GBDT。

关联：决策树、随机森林

是什么：无监督聚类：随机选 K 个初始中心，每个点归到最近中心，重算中心，迭代到稳定。

Tips 要点（两个高频弱点）：受异常值影响大；依赖相似性（距离）度量——所以聚类前必须做归一化（特征距离缩放）。

关联：归一化、隔离森林、数据清洗

是什么：无监督异常检测算法：随机递归切割特征空间，异常点被更早孤立（切割路径更短），正常点路径更长。

考试定位："针对识别异常数据的技术"（Tips 原文）——题干出现"识别异常"优先想到隔离森林。

关联：K均值聚类、Z分数

是什么：无监督降维：找出数据方差最大的方向作为主成分并投影过去。用途：降维、去噪、可视化。

Tips 要点：主成分分析 = 降维，一个词的对应关系，选择题直接拿分。

关联：无监督学习

是什么：Z=(x−μ)/σ，把数据标准化为"距均值多少个标准差"。|Z| 超过阈值（如 3）通常视为异常值。

Tips 要点：Z分数分布 = 分布统计，用于异常值识别。

关联：数据清洗、隔离森林

是什么：由输入层、隐藏层、输出层组成，每个神经元对输入加权求和再过激活函数。隐藏层大于等于 2 即深度学习——它是机器学习的分支，模仿人类思考过程，处理复杂问题（图像、语音、语言）。

Tips 要点："隐藏层大于等于 2"是硬考点数字，记住这个分界。

关联：前馈网络、循环神经网络、卷积神经网络、反向传播

是什么：最朴素的神经网络，层间全连接、无环路。

Tips 要点：典型应用 = 垃圾邮件识别（Tips 原文对应关系，直接记）。

关联：神经网络、循环神经网络

是什么：网络里有环，隐藏状态把上一时刻的信息带到下一时刻，天然适合时序数据。

Tips 要点：有时序 → RNN；典型应用 = 语言翻译（Tips 原文）。

关联：神经网络、卷积神经网络

是什么：卷积层提取局部特征（边缘到纹理到部件到整体），池化层压缩，全连接层输出分类。

Tips 要点：典型应用 = 图像识别（Tips 原文）；与 Grad-CAM 热力图解释技术同源。

关联：迁移学习、Grad-CAM

是什么：可直接复用预训练模型的卷积层特征提取能力，仅替换并训练自定义分类层，从而在有限数据集上获得良好效果（Tips 原文）。

考试定位："小数据集 + 图像任务 + 复用预训练模型"三关键词同时出现，答案就是迁移学习。

关联：卷积神经网络

是什么：训练数据拟合模型（要求高质量）；验证数据调整模型参数、调优（预测模型的验证数据就是历史数据）；测试数据最后一次性评估真实水平。

Tips 要点：三个数据集各自的职责是选择题高频考点；"验证数据 = 历史数据"的对应关系直接记。

关联：数据分离、信息泄露、交叉验证

是什么：将数据分拆成训练、验证、测试三套，各自独立。

Tips 要点：数据分离的目的是避免过拟合（Tips 原文）；三集重叠的后果是信息泄露。

关联：过拟合、信息泄露

是什么：三个数据集若有重叠，模型在评估时见到了训练时"背过"的样本，表现虚高，上线就翻车。

考试定位：题干问"三个数据集有重叠会导致什么"，答案：信息泄露（Tips 原文）。

关联：数据分离、过拟合

是什么：把一个无序类别特征展开成多个 0/1 指示位，避免模型误以为类别之间有大小关系。

Tips 要点：独热编码针对无序数据（Tips 原文）；有序数据才能按序数值编码。

关联：数据清洗、输入控制

是什么：将特征缩放到相近区间（如 0~1），防止"数值大的特征说了算"。

Tips 要点：K均值聚类基于距离，必须先归一化——原文关键词"特征距离缩放（K均值聚类）"。

关联：K均值聚类、数据清洗

是什么：三件事：缺失值处理、异常值处理、删除重复值。

Tips 要点（高频坑）：缺失值不能盲目填 0，要按真实分布填补；用平均值填补不是最准确的方法，分箱比均值好一点。

关联：分箱、Z分数、数据质量

是什么：将连续特征切分为区间（箱），降低噪声和异常值的影响。

考试定位：缺失值填补手段的辨析题里，"分箱比均值填补好一点"（Tips 原文）。

关联：数据清洗

是什么：罕见情况无法获得真实样本时（罕见病、欺诈、事故），用程序按统计规律生成仿真数据。

Tips 要点：关键词"罕见/无样本"对应合成数据；同时记住约束——合成数据不能偏离真实分布，否则模型学到假规律。

关联：数据增强、数据代表性

是什么：对已有数据做保持语义的变换（旋转/裁剪/加噪/同义改写）扩充数据集。

Tips 要点：目的 = 提高模型准确性、泛化能力等性能指标。

关联：合成数据、过拟合

是什么：训练数据覆盖真实分布的程度。不具代表性，模型就会对未覆盖群体系统性出错。

Tips 要点：数据代表性是避免偏差最重要的特征（Tips 原文）。

关联：公平与偏见、数据质量

是什么：全链路记录数据的来源与流转，实现数据源可追溯。

考试定位："证明数据治理做得好的方法 = 数据源可追溯（数据沿袭）"（Tips 原文）。

关联：数据治理、审计跟踪

是什么：组织层面管理数据资产的框架、清单、分类（Tips 原文三关键词），覆盖质量、安全、隐私、合规。

关联：数据沿袭、数据质量、AI治理

是什么：三个关键检查点：缺失、异常、准确（Tips 原文）。数据质量决定模型上限。

关联：数据清洗、数据代表性

是什么：处理类别不平衡的两条路：过采样增加少数类样本（如 SMOTE 合成新样本），欠采样精简多数类。

考试定位：它同时也是彻底解决偏见的方法之一（配合重新训练/校准，Tips 原文）。

关联：召回率、公平与偏见

是什么：训练集准确率 100%，验证/测试集准确率骤降（Tips 原文识别特征）：模型记住了噪声而非规律。

考试定位：绝对不能出现过拟合（Tips 原文）。对策：数据分离、交叉验证、数据增强、正则化。

关联：泛化能力、数据分离、交叉验证

是什么：模型对未见样本的表现能力，与过拟合相对。

Tips 要点：模型验证的目的之一就是验证泛化能力。

关联：过拟合、模型验证

是什么：多个数据集分别测试验证（Tips 原文）。

Tips 要点：目的——避免单一依靠训练数据产生偏差，降低训练数据缺陷影响；过程——小数据集、高K值、多轮训练和测试。K 折交叉验证也是贝叶斯优化的评分来源。

关联：泛化能力、贝叶斯优化

是什么：为了模型的优化，通过使用模型自身的性能指标（如交叉验证等）来找到最佳的超参数组合（Tips 原文）。

考试定位：题干出现"用交叉验证等性能指标寻找最佳超参数组合"，答案就是贝叶斯优化。

关联：交叉验证、超参数

是什么：控制训练过程的外部配置。调优手段：网格搜索、随机搜索、贝叶斯优化。

关联：贝叶斯优化、模型参数

是什么：用极端、罕见样本测试（Tips 原文），检验模型的边界表现。

考试定位：属于模型验证的重要手段；与"鲁棒性测试"呼应。

关联：鲁棒性、模型验证

是什么：训练独立模型与主模型持续对比，评估主模型性能（A/B 测试，Tips 原文）。

考试定位：持续验证主模型、防模型漂移的常用治理手段。

关联：模型漂移、A/B测试

是什么：上线前必须经过模型验证，目的是符合设计（业务）要求，验证模型泛化能力（Tips 原文）。

Tips 要点：影响验证结果的因素两块——数据（训练/验证/测试数据）与模型（参数）。

关联：边缘案例测试、挑战者模型、泛化能力

是什么：TP 真阳性（报病且真病）、FP 假阳性（没病报病 = 误报）、TN 真阴性、FN 假阴性（有病没报出 = 漏报）。

考试定位：F1 分数 / 混淆矩阵综合了精确率与召回率，是衡量模型性能的真实标准（Tips 原文）。

关联：精确度、召回率

是什么：Accuracy=(TP+TN)/总数。准确度陷阱：在极不平衡数据下，高 Accuracy 掩盖了模型对稀有正例（故障/疾病）完全无识别能力的事实（Tips 原文）——疾病率 1%，模型全猜"健康"也有 99% 准确率。

考试定位（双重坑）：准确率无法评估是否存在偏见；不平衡场景不能只看准确率。

关联：F1分数、PR-AUC

是什么：Precision=TP/(TP+FP)。

Tips 要点：误报多（假阳性多）= 精确度低；典型场景：风控拦截——合法交易被拦截、被投诉。

关联：召回率、F1分数

是什么：Recall=TP/(TP+FN)。

Tips 要点：漏报多（假阴性多）= 召回率低；典型场景：医院漏诊病人、反洗钱漏筛。这类场景宁可误报、不可漏报，应重召回率。

关联：精确度、F1分数

是什么：F1=2PR/(P+R)。

Tips 要点：性能平衡指标；F1 / 混淆矩阵综合了精确率与召回率（或 PR-AUC），是衡量模型性能的真实标准。

关联：精确度、召回率、PR-AUC

是什么：ROC 曲线下面积，衡量任意阈值下正例排在负例前面的概率。

考试定位：正负样本数量差距不大时优先用（Tips 原文）；正例极稀缺时换 PR-AUC。

关联：PR-AUC

是什么：在正例极度稀缺（极不平衡）的场景中，专注于少数类（正例）的识别质量，能够提供比 ROC-AUC 准确得多的真实性能评估（Tips 原文）。

考试定位：欺诈检测、罕见病筛查等极不平衡场景选 PR-AUC。

关联：召回率、ROC-AUC、F1分数

是什么：训练数据或算法设计导致对特定群体的系统性歧视。典型词汇：公平 / 敏感属性 / 民族 / 种族 / 年龄 / 性别 / 地域 / 面部识别 / 群体；典型场景：招聘（Tips 原文）。

考试定位（三个高频坑）：准确率无法评估是否存在偏见；错误的处理办法 = 增加数量、加权重；缓解 = 定期测试 + 调整参数，彻底解决 = 数据代表性、重新训练/校准、过采样、欠采样。

关联：数据代表性、代理变量、80%法则

是什么：判定差异性影响的标准阈值：当受保护群体的通过率低于最高群体通过率的 80% 时，即构成非法的统计偏见与隐性歧视（Tips 原文）。源自美国就业歧视筛查的 4/5 规则。

考试定位：题面出现"80% / 4/5"字样即考差异性影响；"差异性影响比率"是度量它的指标。

关联：平等机会、偏见

是什么：算法公平性的核心统计标准之一：要求不同受保护群体之间的真阳性率（或假阴性率）保持相等（Tips 原文）。

考试定位：辨析——80% 法则看"通过率之比"，平等机会看"真阳性率之差"。

关联：混淆矩阵、差异性影响

是什么：表面非敏感的特征（例如邮编/地址）与种族/性别等保护属性高度相关，模型利用其间接做出歧视性决策（Tips 原文）。

考试定位：删掉敏感属性不等于消除偏见——还可能经由代理变量泄漏，这是审计要查的点。

关联：偏见、公平性

检测（三种方法）：分层切片分析（分群体看指标）、差异性影响分析、特征差异评估（Tips 原文）。

缓解：定期测试 + 调整参数。彻底解决：训练数据的代表性/维度、真实数据分布、重新训练/校准、过采样、欠采样。

关联：偏见、过采样/欠采样

是什么：内部决策逻辑不可见、不可解释的模型（深度神经网络、大型集成树是典型）。审计风险：无法解释、无法审计、可能隐藏偏见——"审计师利用 AI 的风险"之一就是黑箱（Tips 原文）。

关联：LIME、SHAP、归因解释工具

是什么：一种可解释性（XAI）技术。名字里两个关键词就是它的全部精髓：Local 局部——只解释单个预测，不保证代表全局；Model-agnostic 模型无关——黑盒里是神经网络还是 XGBoost 都能用。

怎么工作（四步）：① 选定要解释的那一条预测；② 对输入做微小扰动，生成一批"邻近样本"；③ 观察黑盒模型对每个邻近样本的输出变化；④ 在这些邻近样本上拟合一个可解释的简单模型（线性模型或短决策树），用它的权重解释"这一个"预测中各特征的贡献。

考试定位：归因解释三件套（Grad-CAM 热力图、LIME、SHAP）之一：量化每个输入特征对模型最终输出的贡献度，解构黑盒决策（Tips 原文）。问"解释单个预测"优先 LIME；问"全局可解释"用全局代理模型。

审计意义：让黑盒决策可追溯、可质疑，支撑透明度与模型验证要求。

关联：SHAP、Grad-CAM、全局代理模型、黑箱

是什么：用博弈论 Shapley 值计算每个特征在所有可能"加入顺序"下的平均边际贡献，数学上保证分账公平、结果一致。既能解释单个预测（局部），也能汇总出全局特征重要性。

考试定位：与 LIME、Grad-CAM 同为业界标准归因解释技术（Tips 原文）。

关联：LIME、全局代理模型

是什么：基于梯度的类激活映射，专用于 CNN 类图像模型：生成热力图，高亮对某类别判断贡献最大的图像区域。

考试定位：Tips 原文"热力图（Grad-CAM）"——题面出现"热力图"即指它。

关联：卷积神经网络、LIME

是什么：Grad-CAM、LIME、SHAP 是业界标准的归因解释技术，能够量化每个输入特征对模型最终输出的贡献度，从而解构黑盒决策（Tips 原文）。

考试定位（选型口诀）：图像看热力图 Grad-CAM；单条预测看 LIME / SHAP；全局重要性看 SHAP 汇总或全局代理模型。

关联：黑箱、透明度

是什么：一种模型无关的可解释性方法：训练一个可解释的简单模型（如决策树或线性模型）去拟合黑盒模型的预测结果（注意：拟合的是黑盒的输出，不是真实标签），以提供全局可解释性（Tips 原文）。

考试定位：与 LIME 的辨析——LIME 解释"单条"（局部），代理模型解释"整体行为"（全局）。

关联：LIME、决策树

是什么：标准化模型文档：训练数据、评估指标、适用范围、限制与伦理考量。向使用者和审计师披露模型边界。

Tips 要点：透明度/可解释性/可追溯性的关键词组之一：审计跟踪 / 模型卡片 / 内容标注 / 解释原因 / 沟通 / 日志 / 合理性。

关联：审计跟踪、内容标注

是什么：审计跟踪——谁在什么时候做了什么，留痕可查；内容标注——AI 生成内容打标；日志——运行记录；合理性 / 解释原因 / 沟通——把决策依据讲给人听（Tips 原文关键词组）。

考试定位：这些是"透明度"维度的信号词；与数据沿袭（数据侧可追溯）相互呼应。

关联：数据沿袭、模型卡片

是什么：模型在极端条件 / 意外 / 极限 / 微小改变 / 对抗性输入下保持稳定正确输出的能力（Tips 原文）；同义词：稳定性、弹性。

Tips 要点：测试与加固手段——防御性蒸馏、对抗性测试、误导测试（识别差距）、红队演练。

关联：对抗性输入、红队演练

是什么：攻击者精心构造的扰动输入，如停车牌上贴几枚小贴纸，图像识别立刻认成限速标志。

考试定位：是对鲁棒性威胁最大的攻击类型，也是对抗性测试的靶子。

关联：鲁棒性、对抗性测试

是什么：主动构造恶意/误导样本测试模型，识别差距（Tips 原文）——检验模型在恶意场景下该拒答、该报警的表现是否符合预期。

关联：鲁棒性、边缘案例测试

是什么：模拟黑客（Tips 原文）对 AI 系统发起真实攻击演练，覆盖提示注入、越狱、数据泄露等场景。

关联：鲁棒性、事件响应

是什么：对抗防御技术：用教师模型输出的概率（软标签）训练学生模型，使学生对输入微小扰动的敏感度下降，提高抗对抗样本能力（Tips 原文）。

关联：鲁棒性、对抗性输入

是什么：向训练数据注入恶意样本或错误标签，使模型学到后门或系统性偏差。

Tips 要点：对策 = 来自可信来源 + 数据验证。

关联：模型中毒、数据质量

是什么：攻击训练过程或模型本体，植入后门——特定触发器一出现，模型就执行恶意行为。

Tips 要点：对策 = 保护权限。辨析：数据中毒防"来路"，模型中毒防"权限"。

关联：数据中毒、模型盗窃

是什么：针对大语言模型的攻击：用自然语言指令覆盖系统设定，诱导模型泄露数据或执行未授权动作。

Tips 要点：对策 = 输入过滤 + 输入验证。

关联：输入控制、智能体安全

是什么：偷模型参数：通过查询-响应反推并复制模型。

Tips 要点：目的 = 复制模型、研究模型漏洞；对策 = 加强权限控制和访问控制（限流、鉴权）。

关联：模型反演

是什么：利用模型输出（如置信度）重构训练样本中的敏感信息。

Tips 要点：目的 = 获取敏感信息。辨析：模型盗窃偷"模型"，模型反演偷"数据"；后者可用差分隐私防护。

关联：模型盗窃、差分隐私

是什么：生成式 AI 伪造人脸、语音、视频，用于诈骗与虚假信息。

Tips 要点：缓解措施 = 活体检测、水印。

关联：活体检测、内容标注

是什么：活体检测要求眨眼、转头等动作配合，识破照片与深度伪造；水印在内容中嵌入可验证标识，用于溯源与真伪判定。

关联：深度伪造

是什么：AI 智能体（Agent）可自主调用工具、执行操作，安全三件套（Tips 原文）：自主执行权限边界（明确它能做什么）、权限隔离（不同任务/工具权限分开）、权限阻断（危险动作可拦截）。

关联：人机在环、提示词注入

是什么：输入模型前数据格式一定要规范（Tips 原文）；配合输入过滤、输入验证，防提示注入与脏数据进模型。

关联：提示词注入、数据清洗

是什么：将用户输入的身份标识符进行加密替换（Tips 原文），使开发、测试等非生产环境不暴露真实个人身份信息（PII）。

关联：匿名化、K-匿名

是什么：匿名化移除直接标识符（姓名、证件号）；模糊化降低精度（精确年龄改成年龄段）。Tips 原文把脱敏/数据掩码/匿名化/模糊化/准标识符泛化并列为隐私保护手段。

关联：准标识符、K-匿名

是什么：表面非敏感、但组合起来可以唯一识别个人的属性。泛化 = 用区间替代精确值，如将具体生日转换为年龄段、邮编模糊化（Tips 原文）。

关联：K-匿名、代理变量

是什么：通过对准标识符进行区间泛化（如将具体生日转换为年龄段、邮编模糊化），确保数据集里每个特征组合至少包含 K 个个体，防止身份反向重构（Tips 原文）。

考试定位：关键词"每个特征组合至少 K 个个体 / 防止身份反向重构"即 K-匿名。

关联：差分隐私、准标识符

是什么：通过向数据集（或查询结果）注入受控数学噪声，保证在提供群体统计规律的同时，无法通过逆向工程还原个人数据（Tips 原文）。

考试定位：看到"注入受控数学噪声"即差分隐私；它也用于防模型反演。

关联：K-匿名、模型反演

是什么：在密文上直接执行运算，结果解密后与明文计算一致，实现"数据可用不可见"。

Tips 要点：分类 / 加密 / 同态加密并列为隐私保护技术手段（Tips 原文）。

关联：加密、数据安全

是什么：一种分布式训练范式：多个设备或机构各自用本地数据训练模型，只把模型参数/梯度（而非原始数据）上传到中央服务器聚合，再把更新下发回各节点。原始数据始终不离开本地，从源头降低隐私泄露与数据集中风险。

考试定位：题干出现“数据不出域 / 多方联合建模又不愿共享原始数据 / 隐私保护下的协同训练”时，答案就是联邦学习；它常与差分隐私叠加（给上传的梯度再加噪声）以进一步防模型反演。

关联：差分隐私、同态加密、数据脱敏、模型反演

是什么：隐私法律法规要求的红线（Tips 原文）：收集个人信息前须披露用途并获得用户同意。

关联：数据跨境、数据主权

是什么：数据跨国传输须满足数据跨境与数据主权合规（Tips 原文），如本地化存储要求。跨国经营的 AI 系统和云供应商是审计重点。

关联：供应商管理、披露与同意

是什么（Tips 原文）：幻觉（决策结果错误）、泄露（个人隐私/知识产权）、偏见（最大的伦理问题）、透明度（自动化决策）。

考试定位：每道风险题先归到这四类之一，再落细节；"偏见 = 最大的伦理问题"是固定搭配。

关联：幻觉、数据泄露、偏见、透明度关键词组

是什么：模型生成看似合理、实则错误或凭空捏造的内容。

来源（Tips 原文三条）：训练数据（有错/过时）、上下文限制、基于概率的词语（逐词"猜"最像的下一个词，本质决定了它可能编）。

Tips 要点（高频辨析）：幻觉是语法校对类生成式 AI 的最大风险，不是知识产权。对策：RAG 检索增强生成、调低温度参数、人工复核。

关联：RAG、温度参数、四大风险

是什么：生成前先从可信知识库检索相关内容，注入上下文，让模型基于检索结果作答（Tips 原文：使用 RAG 降低幻觉）。

考试定位：题干问"如何降低幻觉"，首选答案 RAG（其次是调低温度、人工复核）。

关联：幻觉、大语言模型

是什么：控制大模型生成时概率分布的随机性：较低的温度，随机性较低（Tips 原文）——输出更确定、更保守，幻觉倾向更低；温度高则更多样、更有创造性，但更容易跑偏。

关联：幻觉、RAG

是什么：又称退化风险/数据漂移。两类成因（Tips 原文）：和时间有关（长时间未监控/未更新）、和变化有关（剧烈改变/外部环境变化）。结果：产生偏差结果。

考试定位：AI 特有风险的处置三步——1.持续监测，2.调参数，3.再训练。

关联：挑战者模型、变更管理

是什么（Tips 原文要点）：组织应有变更管理流程；变更需要经过授权；变更前进行风险评估和测试；变更后持续监控、利用不同数据检测异常、防止频繁更新；变更日志保证可追溯性；重要的是高级管理层参与，有效的是全面参与、定制化。

考试定位：发现问题的处置三步——1.暂停/找原因，2.回滚，3.重新训练。

关联：模型漂移、模型验证

是什么：重大问题（政策、法律、巨大金额）的自动化决策（自主决策）一定要人工监督（Tips 原文）。设计人工监督，越早越好。

Tips 要点：避免 AI 自主性的两个办法——人机在环、减少使用场景；人机在环自身的风险 = 人的偏见和失误。

关联：紧急中断机制、智能体安全

是什么：人工监督的技术兜底：发现重大问题可立即中止 AI 系统运行。变更失败的处置是模型降级或者回滚（Tips 原文）。

关联：人机在环、变更管理

是什么（Tips 原文）：1.隔离，2.根本原因分析；配套定期演练。

AI 的加成：将 AI 应用到事件响应——快速分析大量数据、实时分析。

关联：根本原因分析、红队演练

是什么：事件响应的第二步：追查问题根源，而非只处理表面症状。

关联：事件响应

是什么（Tips 原文）：第一道业务、第二道风险合规、第三道审计——AI 治理结构中责任划分的标准答案。

关联：RACI矩阵、AI治理

是什么：责任分配矩阵：Responsible 执行 / Accountable 问责（唯一所有者）/ Consulted 咨询 / Informed 知会。

Tips 要点：合规要求：责任要明确，RACI矩阵，明确所有者。

关联：三道防线

是什么：约定可用性、响应时间、支持与补偿条款的服务合同。

考试定位：SLA 是 AI 供应商管理清单的必备项（Tips 原文）。

关联：供应商管理

是什么（Tips 原文清单）：数据所有权（未经授权访问）、数据知识产权、环境安全、SLA、第三方独立证明、锁定条款（防止被单一供应商绑定）。

考试定位：第三方场景题先想这六项；治理结构里还有"与第三方的责任共担"。

关联：SLA、数据主权

是什么：人工智能驱动的抽样方法（Tips 原文：人工智能抽样）：按风险信号动态调整抽样重点，提高审计效率与覆盖率。

关联：审计利用AI

是什么：人工智能测试方式（Tips 原文）：不了解模型内部结构，仅通过输入输出评估行为。

考试定位：辨析——"黑盒测试"是测试方法，"黑箱模型"是模型不可解释，两回事。

关联：黑箱、模型验证

是什么：建模变量间因果关系的分析框架。审计用途：调整预处理程序提高数据质量（Tips 原文）。

关联：偏见、数据质量

是什么（Tips 原文）：业务目标一致/支持业务目标——如何判断：设定 KPI；如何实现：选对业务用例。AI 解决方案失败是因为未与目标一致；同时要与社会价值观一致；奖励函数应与风险指标保持一致（防奖励破解）。

关联：KPI、奖励破解

是什么：判断 AI 是否支持业务目标的量化标尺（Tips 原文：如何判断——设定 KPI）。

关联：目标一致性

是什么（Tips 原文）：灾难恢复计划要包含人工智能场景；政策——明确人工智能的使用要求；培训——让人了解人工智能、政策和使用方法。

关联：AI治理、事件响应

是什么（Tips 原文）：审计师利用 AI 写审计报告，最重要的是：准确性、一致性、可靠性、可追溯性。

考试定位：同时记住审计师利用 AI 的风险清单：过度依赖、黑箱、无法识别关键风险、偏差、幻觉。

关联：幻觉、黑箱、审计利用AI的有效方式

是什么（Tips 原文对应关系）：基于规则的异常检测 → 结构化表数据；可解释性分析 → 偏见问题；结构因果模型 → 调整预处理程序提高数据质量；机器学习 → 复杂问题分析；自适应抽样 → 人工智能抽样；黑盒测试 → 人工智能测试。

优点清单：异常检测、处理复杂情况、自动化处理、动态分析、发现不一致、预测分析、节约时间、减少错误、自然语言处理。

考试定位："自然语言"对应合同、报告类型的任务（自然语言处理 NLP）。

关联：自适应抽样、黑盒测试、结构因果模型