模型评估是量化系统表现的核心基准。本架构基于分类树结构将系统切分为传统机器学习范式ML Models与检索增强生成代理RAG Agent两大赛道并向下延展至具体的评估算子。1. ML Models (传统机器学习模型)架构定义传统机器学习模型依赖统计学习理论通过构建目标函数并最小化经验风险来求解映射关系。该范式聚焦于数据特征与预测目标之间的数学映射其评估核心在于考察决策边界的泛化能力、分类精度以及底层特征的重要性归因。1.1 Simple Filtering Model (简单过滤模型)架构定义过滤模型属于强约束下的判别式系统通常用于异常检测或二分类任务如垃圾邮件拦截、恶意流量清洗。其决策机制依赖明确的标量阈值Threshold系统输入经过特征提取后映射为置信度得分超越设定的界限即触发硬性分类输出。此类模型的评估强调精确度误杀成本与漏报风险漏网成本的精确权衡。1.1.1 Precision (精确率)数学原理度量模型预测为正类的样本中真实正类样本的比例。公式PrecisionTPTPFPPrecision \frac{TP}{TP FP}PrecisionTPFPTP​TP (True Positive) 为真阳性FP (False Positive) 为假阳性。通俗举例反洗钱AML交易冻结。系统判定为洗钱的交易中真实属于非法洗钱的比例。为避免过度冻结正常客户资金引发客诉控制误杀追求极高的 Precision。参考提示词“System: 你是一个模型评估专家。计算以下分类结果的精确率。输入数据包含预测标签和真实标签输出单一的浮点数结果并说明误报的影响代价。”例子代码fromsklearn.metricsimportprecision_score y_true[0,1,1,0,1,1]y_pred[0,1,1,1,0,1]precisionprecision_score(y_true,y_pred)print(fPrecision:{precision:.4f})代码讲解引入sklearn.metrics。y_true承载真实标签矩阵y_pred为模型输出。precision_score函数执行TP/(TPFP)TP / (TPFP)TP/(TPFP)的矢量化运算并返回浮点值。1.1.2 Recall (召回率)数学原理度量所有真实正类样本中被模型正确预测为正类的比例。公式RecallTPTPFNRecall \frac{TP}{TP FN}RecallTPFNTP​FN (False Negative) 为假阴性。通俗举例信用卡欺诈检测。所有真实的被盗刷交易中被风控系统成功拦截的比例。面临高额资金损失风险、要求“宁可错杀不可放过”时追求极高的 Recall。参考提示词“System: 评估当前过滤系统的召回率。比对人工标注的遗漏名单和成功拦截名单量化系统的漏网之鱼风险。”例子代码fromsklearn.metricsimportrecall_score y_true[0,1,1,0,1,1]y_pred[0,1,1,1,0,1]recallrecall_score(y_true,y_pred)print(fRecall:{recall:.4f})代码讲解调用recall_score。算法提取y_true中所有正例基数计算预测命中数实施无偏除法运算量化漏报率。1.1.3 F1 Score数学原理精确率和召回率的调和平均数用于正负样本不平衡状态下综合评价性能。公式F12×Precision×RecallPrecisionRecallF1 2 \times \frac{Precision \times Recall}{Precision Recall}F12×PrecisionRecallPrecision×Recall​通俗举例零售信贷审批系统。既要保证批出的贷款不发生坏账Precision又要保证优质客户尽可能多地被审批通过以抢占市场规模Recall。F1 综合评估该审批阈值的全局效能。参考提示词“System: 基于给定混淆矩阵计算 F1 调和平均值。分析当数据分布呈现 1:100 极度不平衡时F1 分数相比 Accuracy 的评估优势。”例子代码fromsklearn.metricsimportf1_score y_true[0,1,1,0,1,1]y_pred[0,1,1,1,0,1]f1f1_score(y_true,y_pred)print(fF1 Score:{f1:.4f})代码讲解执行f1_score计算。并行求取 Precision 和 Recall 后应用调和平均公式对低召回或低精确率实施数值惩罚。1.2 Black Box Model (黑盒模型) 与 XAI (可解释性AI)架构定义Black Box Model黑盒模型指代深度神经网络DNN、随机森林Random Forest及梯度提升树GBDT等高度非线性的复杂模型。这类模型内部包含数百万乃至数十亿量级的参数特征交互逻辑高度耦合导致人类无法直接从模型权重中逆推其决策路径形成“输入已知、输出已知、内部映射未知”的黑盒状态。XAIExplainable AI / 可解释性人工智能应对黑盒模型不透明性的技术集合。XAI 不改变模型本身的推演逻辑而是通过构建代理模型Surrogate Models或特征归因算法Feature Attribution以后置分析Post-hoc的方式将高维空间的复杂决策边界映射回人类可理解的低维特征语义空间。1.2.1 LIME (Local Interpretable Model-agnostic Explanations)数学原理通过在特定输入样本的邻域内生成扰动数据利用简单模型拟合局部决策边界。最小化局部损失explanation(x)arg⁡min⁡g∈GL(f,g,πx)Ω(g)explanation(x) \arg\min_{g \in G} L(f, g, \pi_x) \Omega(g)explanation(x)argming∈G​L(f,g,πx​)Ω(g)通俗举例房贷拒件定性说明。客户申请被黑盒模型秒拒系统通过局部特征扰动如假定其收入提高或负债减少快速向客户经理输出拒件归因“当前节点决定性因素为近期网贷查询次数过多”。参考提示词“System: 你是可解释 AI 专家。解释 LIME 生成的特征权重矩阵。识别出对模型决策产生决定性影响的前 5 个特征词屏蔽噪声。”例子代码importlimeimportlime.lime_tabular# 设 predict_fn 为黑盒预测函数explainerlime.lime_tabular.LimeTabularExplainer(X_train,modeclassification)expexplainer.explain_instance(X_test[0],predict_fn,num_features5)exp.show_in_notebook(show_tableTrue)代码讲解实例化LimeTabularExplainer构建解释器。调用explain_instance方法对单个测试样本执行扰动采样通过predict_fn获取预测边界计算局部特征重要性。1.2.2 SHAP (SHapley Additive exPlanations)数学原理基于合作博弈论中的 Shapley 值量化每个特征对预测结果的边际贡献。ϕi∑S⊆N∖{i}∣S∣!(∣N∣−∣S∣−1)!∣N∣![f(S∪{i})−f(S)]\phi_i \sum_{S \subseteq N \setminus \{i\}} \frac{|S|!(|N|-|S|-1)!}{|N|!} [f(S \cup \{i\}) - f(S)]ϕi​∑S⊆N∖{i}​∣N∣!∣S∣!(∣N∣−∣S∣−1)!​[f(S∪{i})−f(S)]通俗举例巴塞尔协议合规审计。监管机构要求解释某信用评分模型评级下调逻辑。严格计算每个风险特征如宏观经济指标、历史违约记录的边际贡献出具具有法律约束力的归因报表。参考提示词“System: 给定 XGBoost 模型的 SHAP 值输出数组。提取出正向贡献和负向贡献最大的特征簇量化解释单个样本预测值与基线期望值的偏差。”例子代码importshapimportxgboost modelxgboost.train(params,dtrain)explainershap.TreeExplainer(model)shap_valuesexplainer.shap_values(X)shap.summary_plot(shap_values,X)代码讲解利用TreeExplainer针对树模型生成解析器。执行shap_values函数计算特征空间的全局/局部沙普利值。通过summary_plot输出依赖可视化图谱。1.2.3 LIME 与 SHAP 差异分析意义区别LIME (局部代理机制)核心在于“局部保真”。其数学本质是降维与局部线性逼近放弃对模型全局逻辑的解释仅在单一样本的极小邻域内构建可理解的简单边界。它回答的是“在当前特征坐标点周边模型是基于什么局部规则分类的”。SHAP (博弈论分配)核心在于“公平归因分配”。其数学基石是合作博弈论确保特征权重的加和严格等于实际输出与基线期望的差额。具备严格的数学一致性Consistency它回答的是“每个特征对当前特定预测结果相较于平均基线水平的净贡献量是多少”。使用场景区别LIME 适用场景低延迟的单点异常排查Ad-hoc Debugging。适用于工程师需要快速定性解释单个离群预测如特定自然语言或图像的误判时。其局部扰动机制计算开销极小、响应快但存在采样随机性不保证全局逻辑一致。SHAP 适用场景严苛监管审查与全局特征工程。在金融风控如信贷拒件合规解释、医疗辅助判定等面临外部审计的场景中SHAP 提供防辩驳的数学基石。同时聚合全体样本的 SHAP 值能输出全局特征重要度谱系用于指导降维调优。缺点是对树模型以外的模型计算复杂度极高耗时巨大。2. RAG Agent (检索增强生成代理)架构定义RAGRetrieval-Augmented Generation架构是应对大语言模型知识幻觉和时效性缺陷的复合工程系统。该代理包含信息检索层对接向量数据库的稠密检索或词频稀疏检索与文本生成层大语言模型解码器。其评估体系从传统的标量比对升级为同时量化“知识获取的精准度”与“文本生成的鲁棒性”的立体框架。2.1 LLM as a Judge (语言模型作为裁判) 与 RAG Triad (RAG三元组)架构定义LLM as a Judge语言模型作为裁判放弃传统的启发式文本比对指标如 BLEU、ROUGE转而采用经过对齐指令微调的高阶大语言模型如 GPT-4, Claude 3作为自动化评估器。利用其语义理解与逻辑推理能力通过设计严密的提示词范式使其执行复杂的语义打分任务。RAG TriadRAG三元组将 RAG 架构的误差来源解耦为三个相互正交的评估维度。检索模块Retriever由“上下文相关性”衡量生成模块Generator由“忠实度”和“回答相关性”衡量。三者构成逻辑闭环确保系统既不答非所问也不凭空捏造。2.1.1 Context Relevance (上下文相关性)数学原理度量检索召回上下文Context与查询Query的语义重合度。基于余弦相似度或判别模型ScoreCosine(Emb(Query),Emb(Context))Score Cosine(Emb(Query), Emb(Context))ScoreCosine(Emb(Query),Emb(Context))通俗举例智能客服知识库检索。客户询问“大额存单提前支取如何计息”检索器召回了“大额存单购买门槛与额度”条款。两者同属核心业务但上下文完全无法支撑回答客户提问相关性极低。参考提示词“System: 评估上下文对查询的有效性评分 0-1 之间。不要试图回答问题只评估信息覆盖度。Query: {query}Context: {context}”例子代码fromsentence_transformersimportSentenceTransformer,util modelSentenceTransformer(all-MiniLM-L6-v2)query_embmodel.encode(模型评估指标有哪些)context_embmodel.encode(F1分数是机器学习常用指标。)scoreutil.cos_sim(query_emb,context_emb).item()代码讲解加载轻量化模型计算文本稠密向量。调用cos_sim提取张量内积以标定量化相关性。2.1.2 Faithfulness (忠实度)数学原理评估生成回答Answer是否严格基于检索上下文Context采用逻辑蕴含模型限制幻觉Faithfulness∣Claimsentailed∣∣Claimstotal∣Faithfulness \frac{|Claims_{entailed}|}{|Claims_{total}|}Faithfulness∣Claimstotal​∣∣Claimsentailed​∣​通俗举例理财条款解答。RAG模型依据《稳健型理财产品说明书》回答但为迎合客户提问凭空捏造了“承诺保本保息”条款。该脱离 Context 的回答属于严重违规幻觉将引发合规灾难。参考提示词“System: 提取 Answer 中事实断言。严格检查是否能从 Context 中推导得出。如有任何超脱 Context 的捏造扣除忠实度分数。Context: {context}Answer: {answer}”例子代码fromevaluateimportload nli_modelload(evaluate-metric/nli)context今天下午公司召开了评估会议。answer今天下午召开了会议并发放了奖金。resultnli_model.compute(predictions[answer],references[context])代码讲解加载 NLI 推理模型。回答作预测上下文作参考。模型前向传播输出蕴含/矛盾/中立类别以判别幻觉。2.1.3 Answer Relevance (回答相关性)数学原理评估回答是否有效解决原问题。通常通过反向问题生成模型计算Score1N∑Cosine(Emb(Query),Emb(GenQueryi))Score \frac{1}{N} \sum Cosine(Emb(Query), Emb(GenQuery_i))ScoreN1​∑Cosine(Emb(Query),Emb(GenQueryi​))通俗举例VIP财富顾问话术。客户询问“这款QDII基金汇率风险多大”模型回答了整页“该基金过往十年的收益曲线”。内容全对且基于事实但完全规避了核心痛点相关性极差。参考提示词“System: 基于 Answer 逆向生成 3 个可能引出此回答的 Query。计算与原 Query 的语义相似度平均值。Original Query: {query}Answer: {answer}”例子代码fromsentence_transformersimportSentenceTransformer,util modelSentenceTransformer(all-MiniLM-L6-v2)original_query如何提高召回率generated_query提升召回率的方法是什么scoreutil.cos_sim(model.encode(original_query),model.encode(generated_query)).item()代码讲解针对回答逆向生成查询。计算生成查询与原始查询的高维空间向量相似度得出指标评分。2.2 Ground-truth Evaluation (基准事实评估)架构定义这是对抗评估器自身缺陷如 LLM 作为裁判可能存在的大模型幻觉、长度偏好等的兜底机制。基准事实评估通过直接比对模型输出与经过人工强校验、具备绝对正确性的基准数据集Ground-truth提供系统表现的最底层置信度与确定性指标。2.2.1 Golden Dataset (黄金数据集)数学原理构建人工校验的 Ground-truth 集合。计算输出向量OOO与基准向量GGG的误差矩阵EMetric(O,G)E Metric(O, G)EMetric(O,G)衡量全局能力。通俗举例核心系统测算 UAT 用例库。由资深业务专家SME多轮校验后锁定的信贷测算 QA 集。新模型输出的利息结果只要与此基准集存在一分钱偏差即判定模型发布失败。参考提示词“System: 你是数据审查流水线。校验 QA 数据对是否无歧义且事实正确。仅保留置信度超过 0.99 的数据。QA Pair: {qa_pair}”例子代码importpandasaspd data{query:[Precision定义],ground_truth:[预测正例中真实正例比例],metadata:[source: sklearn]}golden_dfpd.DataFrame(data)golden_df.to_csv(golden_dataset.csv,indexFalse)代码讲解定义静态结构体data包含硬编码的query与无误的ground_truth关联溯源元数据。序列化为 CSV 锁定基准版本。