1. 机器学习期末考核心考点精讲期末考试临近很多同学面对机器学习的海量知识点感到无从下手。我当年备考时也经历过同样的焦虑后来总结出一套高效复习方法帮助我在3天内梳理完所有核心内容。下面就把这些实战经验分享给大家。机器学习期末考通常聚焦几个关键算法其中决策树、SVM、贝叶斯分类器这三大金刚几乎必考。先说说决策树这个看似简单的算法藏着不少考点陷阱。去年山大考题就问了用互信息选择特征能带来什么效果很多同学只答出选择信息量大的特征其实关键点在于互信息可以量化特征与标签的相关性相比信息增益率互信息对多值特征更敏感实际应用中能自动过滤无关特征我整理了一个对比表格帮助理解不同特征选择方法方法优点缺点适用场景信息增益计算简单偏向多值特征特征初筛增益率修正多值偏好可能过度修正分类特征互信息通用性强计算复杂度高高维数据SVM是另一个重灾区特别是对偶问题的推导。有个记忆诀窍先把原始问题写成拉格朗日函数然后对w和b求偏导并回代。去年哈工大考了线性不可分情况的处理标准答案要包含引入松弛变量ξ修改约束条件为y_i(w·x_ib)≥1-ξ_i目标函数增加惩罚项C∑ξ_i2. 真题解析与解题套路看过十几套真题后我发现考试题型其实很有规律。以贝叶斯决策题为例去年东北大学的考题就很典型样本x标签为0/1若x真实标签为0却被判为1的损失为a反之为b求最优决策方法这类题的解题模板是写出条件风险公式R(α_i|x)∑λ(α_i|ω_j)P(ω_j|x)比较两种决策的风险得出决策边界当bP(1|x)aP(0|x)时判为0实操中可以用这个Python代码验证理解import numpy as np def bayes_decision(p1, a, b): return 1 if p1 a/(ab) else 0 print(bayes_decision(0.3, 2, 1)) # 示例参数K-means的考题往往集中在迭代终止条件。有个常见误区是认为聚类成员不变和中心点不变是等价的其实前者是后者的充分非必要条件。在考场上如果遇到相关选择题可以直接用这个例子判断假设有两个点A(0,0)和B(1,1)初始中心为(0.4,0.4)和(0.6,0.6)第一次迭代后两个中心点都不变但聚类成员已经发生变化A和B应分别归属不同簇3. 高频易错点避坑指南在批改过上百份作业后我总结了学生最常踩的5个坑第一坑混淆正则化项L1正则会产生稀疏解适合特征选择L2正则更利于防止过拟合考试时可能给具体场景让你选择比如文本分类通常用L1第二坑PCA原理理解从信号重构角度推导时很多同学会漏掉关键步骤数据中心化求协方差矩阵特征值分解选择前k大特征值对应特征向量第三坑逻辑回归优化目标面试题常考为什么用条件似然而不是联合似然。核心在于条件似然直接建模P(Y|X)联合似然需要建模P(X)对分类任务不必要推导时要写出sigmoid函数的导数形式σσ(1-σ)第四坑SVM支持向量去年有考题问支持向量的意义标准答案应包括决定分离超平面的关键样本对应拉格朗日乘子α_i0的样本删除非支持向量不影响模型第五坑过拟合处理决策树相关题必问防止过拟合至少要答出预剪枝限制深度/样本数后剪枝验证集评估随机森林等集成方法4. 三天速成复习计划根据多年带学经验我设计了一个可操作性极强的复习方案Day1核心算法突击上午决策树ID3/C4.5/CART对比 贝叶斯公式推导下午SVM原始问题→对偶问题→核技巧晚上聚类K-means/DBSCAN与降维PCA/LDADay2真题实战按题型分类练习计算题信息增益、贝叶斯概率推导题SVM对偶、逻辑回归梯度简答题模型对比、优缺点分析重点研究近3年本校真题Day3查漏补缺错题重做特别是推导步骤公式默写如softmax、核函数常见面试题速记附我的笔记片段KNN和K-means的区别Bagging和Boosting的差异如何判断模型欠拟合最后提醒几个考场技巧推导题先写关键公式再解释简答题采用定义流程优缺点结构综合题分点作答每点不超过3行遇到陌生题型先分析考察的知识点本质记得考前准备好计算器有些学校允许使用保持良好作息。我在大二那次考试前通宵复习结果在考场上把核函数和激活函数记混了——这个教训分享给大家临时抱佛脚不如平时稳扎稳打。