一、写在前面
兄弟们，又到了一年一度的跳槽季。2026年的算法岗面试，卷度只增不减。但不管大模型怎么火，传统机器学习的基础依然是面试的"必考题"，尤其是前几轮技术面，面试官特别喜欢从这些基础问题切入，考察你的"内功"是否扎实。
今天这篇，我把传统机器学习面试中最常考的8个方向，结合我自己刷题和面试的经验，给大家做一个系统梳理。内容涵盖原理推导、评估指标、特征工程等核心考点，希望能帮到正在准备面试的你。
二、偏差（Bias）和方差（Variance）的区别？如何判断模型是高偏差还是高方差？
这是面试中几乎必问的一道题，也是理解模型泛化能力的基石。
偏差（Bias）：模型对训练数据的拟合能力。高偏差意味着模型过于简单，欠拟合，在训练集和测试集上表现都不好。
方差（Variance）：模型对训练数据波动的敏感程度。高方差意味着模型过于复杂，过拟合，在训练集上表现很好，但在测试集上表现差。
如何判断？看训练误差和验证误差的差距：
- 高偏差（欠拟合）：训练误差高，验证误差也高，两者接近。
- 高方差（过拟合）：训练误差低，验证误差高，两者差距大。
解决思路：高偏差就增加模型复杂度（加特征、加深网络、减少正则化）；高方差就降低模型复杂度（正则化、增加数据量、早停）。
三、逻辑回归（LR）为什么用 sigmoid 函数？它的损失函数是什么？如何推导？
逻辑回归虽然叫"回归"，但实际上是分类
