简介：压缩包收录了邹博机器学习课程的配套代码，涵盖回归、支持向量机（SVM）、聚类等常规算法，同时内置xgboost-master源码库，既适合初学者对照练习，也可供开发者快速搭建模型。包内共391个文件，以py、java、r等编程代码为主，辅以md说明文档、h/hpp头文件及sh脚本等，便于按算法模块查阅；压缩包整体约105.63MB，结构紧凑，适合在校学生、转岗开发者系统学习或备课参考。目前已有448人学习下载。通过其中的示例，读者既能理解SVM核函数选择、最大间隔等理论细节，也能掌握XGBoost参数调优与分布式训练的要点，连同数据预处理、模型评估等常规流程一并覆盖，是一套理论结合实践的学习素材。
1. 邹博机器学习全套代码：拿到这个.rar，先别急着解压
拿到“邹博机器学习全套代码(含回归、svm、聚类等常规算法).rar”这个压缩包时，我建议你先别急着双击解压。这套代码的价值不在文件名里，而在它把机器学习入门最常碰到的回归、SVM、聚类等常规算法，按教学场景串成了一组可以直接运行的项目；但它通常不是开箱即用的。适合谁？准备机器学习期末、复试，或者刚入门的读者。它能帮你省去从零搭demo的时间，前提是你愿意先花半小时清理环境、摸清目录。反直觉的结论是：跑通全套代码的最大瓶颈不是算法推导，而是老版本API、随机种子和数据泄漏这三件小事。
2. 解压与项目结构：把“全套代码”理成能跑的工程
拿到任意一个教学向“全套代码”压缩包，我一般不会先看算法，而是先确认三件事：解压方式、运行环境、入口脚本。前两件不做，后面调参调得再准，也跑不起来。这一章就是把这半小时的流程固定下来。
2.1 先解压，并用脚本确认依赖环境
先说一个最容易踩的坑：这个压缩包的后缀是.rar，不是.zip，所以很多人的第一反应“用Python zipfile解压”会直接失败。zipfile只能处理ZIP格式，RAR是另一套格式，解压需要unrar或7-Zip、WinRAR、The Unarchiver这类带RAR解码能力的工具。在Linux上可以装unrar，macOS上用unar，Windows上装WinRAR后自带UnRAR.exe。
常见做法是我写一个小脚本统一处理，优先调用系统命令，避免去折腾rarfile库的二进制路径：
import os import subprocess import sys def unpack_rar(archive_path: str, out_dir: str = "out") -> None: if not os.path.exists(archive_path): sys.exit(f"archive not found: {archive_path}") os.makedirs(out_dir, exist_ok=True) if os.name == "nt": # Windows下常见WinRAR安装路径，按实际改 cmd = [r"C:\Program Files\WinRAR\UnRAR.exe", "x", "-o+", archive_path, out_dir + "\\"] else: cmd = ["unrar", "x", "-o+", archive_path, out_dir + "/"] proc = subprocess.run(cmd, capture_output=True, text=True) if proc.returncode != 0: # 没有unrar时退一步尝试unar proc = subprocess.run(["unar", "-o", out_dir, archive_path], capture_output=True, text=True) if proc.returncode != 0: print(proc.stderr) raise RuntimeError("解压失败，请确认已安装 unrar 或 WinRAR") if __name__ == "__main__": unpack_rar("邹博机器学习全套代码(含回归、svm、聚类等常规算法).rar")逻辑说明：这里先走系统命令，是因为在Windows上把unrar的路径配置到Python库常常是玄学，直接调用可执行文件最稳。-o+表示覆盖已有文件，避免重复解压时停下来等确认。capture_output=True把标准输出和错误都截获，方便失败时打印原因；os.name判断平台，避免在Windows上误用Linux的unrar命令。
参数说明：archive_path是压缩包路径，建议放在纯英文目录；out_dir是输出目录。如果你的Windows里WinRAR装在D盘，把cmd列表里的第一项改成实际路径，例如r"D:\Program Files\WinRAR\UnRAR.exe"。脚本最后也留了unar作为退路，所以macOS和Linux只要装了两个工具中的任何一个都能解。
解压完先别急着点开py文件，先把Python环境跑一遍。老教学代码最常见的死法就是依赖库版本不对。用一个环境检查脚本扫一遍：
import importlib required = ["numpy", "pandas", "scipy", "sklearn", "matplotlib"] for m in required: try: mod = importlib.import_module(m) ver = getattr(mod, "__version__", "unknown") print(f"{m}: {ver}") except ImportError: print(f"{m}: MISSING -> pip install {m}")这个脚本逐个导入常用库并打印版本。教学代码通常只需要这五个基础库；如果回归部分用了LightGBM或XGBoost，再单独加lightgbm和xgboost。注意，sklearn的版本比别的都重要：0.20版前后API差别很大，老代码里sklearn.cross_validation的导入、Imputer的位置，都会直接决定能不能跑。看到版本是0.24以上，就需要准备处理老API了，具体改法在第5章避坑指南里展开。dll缺失这类问题也常在这一步暴露，缺了VC++运行库就补装，别在代码层面硬找原因。
2.2 用脚本盘点代码文件，快速找出真正的入口
教学代码的目录结构通常按算法分：regression、svm、cluster、common、data等。但总有几个文件是“工具模块”，会被别的脚本import，本身没有执行入口；也有几个文件是demo_xxx.py、run_xxx.py，才是能直接跑的。用脚本一次性盘点，比一个一个打开文件快得多：
import os root = "out" # 解压后的根目录 for dirpath, dirnames, filenames in os.walk(root): for fn in sorted(filenames): if not fn.endswith(".py"): continue full = os.path.join(dirpath, fn) stat = os.stat(full) with open(full, "r", encoding="utf-8", errors="ignore") as f: content = f.read() has_main = "if __name__" in content imports_train = "train_test_split" in content print(f"{stat.st_size:>7}B main={has_main} split={imports_train} {full}")逻辑说明：os.walk递归遍历所有子目录，只处理.py文件；errors="ignore"防止老代码的注释编码不对导致读取中断。has_main判断这个文件是不是可执行入口，imports_train判断它是否切分了训练集和测试集，后者用来快速定位“数据从哪加载、评估在哪儿做”。
参数说明：root改成你实际解压的目录；如果你想连数据文件一起看到，把if not fn.endswith(".py")改成if not (fn.endswith(".py") or fn.endswith(".csv") or fn.endswith(".txt"))。这一步做完，你会得到一份文件清单。接下来不要盲目全跑一遍，而是按“回归、SVM、聚类、评估”的顺序逐项复现。
这里多说一句：教学代码的“回归”目录很可能混着线性回归和逻辑回归。逻辑回归虽然名字里有回归，实际上是分类算法，损失函数是交叉熵而不是MSE，跑之前先看目标列是什么类型，避免一上来用错评估指标。
3. 回归代码复现：线性回归、回归树与LightGBM的调参路径
回归是这类全套代码里最容易先跑的模块，因为损失函数直观、评估指标好解释。但“回归目录下全是回归”是个误解，这里要先分清楚脚本对应的任务类型，再开始调参。
3.1 回归模块里最常见的两类脚本形态
第一类是线性模型脚本，典型结构是：读CSV、把目标列与特征列分开、用LinearRegression或Ridge做回归、打印RMSE和R²。这类脚本里的数据通常已经被切好训练集和测试集，或者在一个文件里手动切分。复现时最需要确认的是有没有对特征做归一化：线性模型对尺度敏感，不做归一化时，量级大的特征会主导损失，导致小量级但重要的特征被完全忽略。如果代码里只用了df.describe()而没有任何预处理，第一件事就是补一个StandardScaler。
第二类是树模型与梯度提升脚本。这里会出现回归树、随机森林回归、LightGBM、甚至XGBoost。树模型不在乎特征尺度，所以这类脚本里经常看不到归一化，这是合理的。它们的问题是另一类：随机性。RandomForestRegressor不固定random_state，每次运行结果都不一样；LightGBM在Windows上还会因为线程和数值累计方式不同有一点波动。复现时统一在命令行里加--seed，让结果可回溯。
还有一类容易被忽略的是高斯回归过程脚本。sklearn.gaussian_process.GaussianProcessRegressor虽然同样是回归，但它是非参数模型，适合小样本，并且能给出预测方差；它不在默认依赖里，需要额外装。如果这套代码里有对比实验，注意它和树模型、线性模型的数据预处理要求都不同：GP假定噪声且对尺度敏感，一般也要做标准化。跑这类脚本时，样本数超过几百个就会明显变慢，属于正常现象，不要当成卡死。
判断一个脚本是回归还是分类，可以直接看目标列的取值数量。我一般会在跑之前插入一段快速检查：
import pandas as pd df = pd.read_csv("data.csv") y = df["target"] print("dtype:", y.dtype) print("unique:", y.nunique()) print("samples:", len(df))逻辑说明：nunique()统计目标列有多少个不同取值。如果数量远小于样本数，比如10000行数据只有2个取值，那这个脚本大概率是逻辑回归或分类任务，而不是连续值回归。此时继续用RMSE评估是错的方向，应该改用准确率或F1。
参数说明：这段检查没有参数，但要确保data.csv路径正确；建议把文件名改成英文，避免中文路径在某些旧代码里触发编码报错。unique的数量也可以用来判断数据集是否严重不平衡，如果某个类只有几十条，后面评估时要看F1而不是只看准确率。
3.2 跑通回归代码的最小命令与参数说明
拿到这类代码后，不建议直接去改作者的Demo文件。常见做法是写一个独立的最小训练脚本，把“数据路径、模型名字、目标列、测试集比例、随机种子”暴露成命令行参数，这样后续换数据集、换模型都不用动业务代码：
import argparse import pandas as pd from sklearn.linear_model import LinearRegression, Ridge, Lasso from sklearn.ensemble import RandomForestRegressor from sklearn.model_selection import train_test_split from sklearn.metrics import mean_squared_error, r2_score def main() -> None: p = argparse.ArgumentParser() p.add_argument("--model", default="linear", choices=["linear", "ridge", "lasso", "rf", "lgb"]) p.add_argument("--data", required=True, help="CSV路径") p.add_argument("--target", default="target", help="目标列列名") p.add_argument("--test-size", type=float, default=0.2) p.add_argument("--seed", type=int, default=42) args = p.parse_args() df = pd.read_csv(args.data) X = df.drop(columns=[args.target]) y = df[args.target] if y.dtype.kind not in "fiu": raise ValueError("target列不是数值列，请确认是回归任务") X_tr, X_te, y_tr, y_te = train_test_split( X, y, test_size=args.test_size, random_state=args.seed) if args.model == "linear": model = LinearRegression() elif args.model == "ridge": model = Ridge(alpha=1.0) elif args.model == "lasso": model = Lasso(alpha=0.1) elif args.model == "rf": model = RandomForestRegressor(n_estimators=200, random_state=args.seed, n_jobs=-1) elif args.model == "lgb": from lightgbm import LGBMRegressor model = LGBMRegressor(n_estimators=200, learning_rate=0.05, random_state=args.seed, verbose=-1) model.fit(X_tr, y_tr) y_pred = model.predict(X_te) rmse = mean_squared_error(y_te, y_pred, squared=False) r2 = r2_score(y_te, y_pred) print(f"model={args.model} rmse={rmse:.4f} r2={r2:.4f}") if __name__ == "__main__": main()逻辑说明：脚本先用drop去掉目标列，把特征和目标分开；接着用train_test_split切分数据。y.dtype.kind检查目标列是否为数值类型（float/int/uint），防止拿字符串标签当回归目标。模型按参数动态选择，每种模型走同一套fit/predict/评估流程，方便对比。
参数说明：--model支持五种模型，先从linear开始跑通，再跑rf和lgb；--data必填，指向你解压后用的数据文件；--target默认是“target”，如果原代码的目标列叫y或Class/1，这里要改。--test-size一般用0.2，数据量少于1000行时用0.3更稳。--seed统一固定为42，这是这套代码复现的基础。squared=False返回RMSE而不是MSE，新版sklearn里这个参数可用；如果报错，说明sklearn版本较老，改用np.sqrt(mean_squared_error(...))。
LightGBM在这套代码里通常是可选项，因为它需要单独安装。用的时候注意两个参数：n_estimators不是越大越好，学习率learning_rate从0.05起步，过大会涨得快但会过拟合；如果特征里有类别字段，还要考虑categorical_feature，但最小脚本里没有处理，这就是“先用数值特征跑基线，再处理类别特征”的做法。
调参路径我一般按三步走：先跑线性模型拿到基线，再跑随机森林确认是否存在明显的非线性增益，最后才上LightGBM。不要在第一步就直接调LightGBM，那样你很难知道收益是来自模型能力还是数据处理差异。如果线性模型R²已经到0.9以上，树模型通常不值得继续调参，把时间留给SVM和聚类。
4. SVM与聚类代码复现：核函数、C值和簇数的选择逻辑
SVM和聚类在这套代码里经常被放在一起，因为它们都不需要太深的网络结构，依赖的是“距离”和“分布假设”这两件事。复现时先想清楚数据尺度，再想参数，能省掉大量玄学调参。
4.1 SVM代码：先归一化，再谈核函数和C、gamma
SVM代码第一眼看上去很简洁：加载数据、训练、打印准确率。但绝大多数复现翻车都出在“没归一化”。SVC默认使用RBF核，内部计算的是样本间的欧氏距离，如果特征量级从0.1到10000分布，距离会被大量级特征直接主导，模型实际只看了那一列。所以复现SVM的第一步不是选C，而是把归一化写进流程：
from sklearn.svm import SVC from sklearn.preprocessing import StandardScaler from sklearn.pipeline import make_pipeline from sklearn.model_selection import train_test_split from sklearn.metrics import classification_report X_tr, X_te, y_tr, y_te = train_test_split( X, y, test_size=0.2, random_state=42) model = make_pipeline( StandardScaler(), SVC(kernel="rbf", C=1.0, gamma="scale", probability=True, random_state=42) ) model.fit(X_tr, y_tr) print(classification_report(y_te, model.predict(X_te)))逻辑说明：make_pipeline把标准化和SVC串成一步。StandardScaler()在训练集上拟合均值和方差，做变换；在预测时，pipeline会自动用训练集统计量对测试集做变换，不会再重新拟合。这是避免数据泄漏的标准写法，也是SVM复现里最该先确认的一件事。
参数说明：kernel="rbf"是默认核，适合大多数中等规模数据；线性核linear适合高维稀疏特征，比如文本向量；poly核参数多且容易过拟合，教学代码里用得少。C是误分类惩罚：C小，决策边界更平滑、更容易欠拟合；C大，会尽量把训练样本分对，但容易把噪声也学进去。gamma控制RBF核的影响半径，默认"scale"是根据特征数量自动计算的，手动设时一般从0.001、0.01、0.1这几个数量级里选。probability=True会启用Platt缩放，让predict_proba可用，但会显著增加训练耗时；如果只输出标签，建议去掉。SVC没有直接的coef_可解释性分析，调参时别把线性模型的思路套进来。
SVM复现里另一个容易踩的点是：网格搜索时pipeline参数名的前缀。如果你直接在GridSearchCV里写C和gamma，会报参数不存在。正确写法是加两步的名字前缀：
from sklearn.model_selection import GridSearchCV param_grid = { "svc__C": [0.1, 1, 10], "svc__gamma": [0.001, 0.01, 0.1, "scale"], } gs = GridSearchCV(model, param_grid, cv=5, scoring="f1_macro", n_jobs=-1) gs.fit(X_tr, y_tr) print(gs.best_params_)逻辑说明：svc__C里的svc是pipeline中那一步的命名关键字，双下划线后面才是SVC的真实参数名。cv=5做五折交叉验证，返回的结果比单次切分更稳。n_jobs=-1开启所有CPU并行搜索，数据量大时提速明显。
参数说明：搜索范围不需要铺太大，C和gamma各给3到4个值就够，不然组合数量会爆炸。如果你的数据类别很不平衡，scoring建议改成f1_macro，而不是默认的accuracy，否则少数类全错时准确率仍然很高，容易产生“模型很好”的错觉。网格搜索结束后，把best_params_里的值替换回原pipeline，再在完整训练集上重新fit一次，然后评估测试集，这也是一个常被漏掉的步骤。
4.2 聚类代码：KMeans、层次聚类与GMM的边界问题
聚类是这套代码里“看起来能跑，但不知道跑得对不对”的部分。教学代码一般会给三个版本：KMeans（也就是常说的k值聚类）、层次聚类、高斯混合模型GMM。三者的共同前提是：特征要先标准化。KMeans和GMM依赖距离和概率密度，量级对结果影响很大；层次聚类里的欧氏距离也一样。如果原代码直接拿原始量级做聚类，算出来的簇基本没有参考价值。
最小复现代码可以这样写：
from sklearn.cluster import KMeans, AgglomerativeClustering from sklearn.mixture import GaussianMixture from sklearn.preprocessing import StandardScaler from sklearn.metrics import silhouette_score X = StandardScaler().fit_transform(X_raw) km = KMeans(n_clusters=4, random_state=42, n_init=10) km_labels = km.fit_predict(X) agg = AgglomerativeClustering(n_clusters=4, linkage="ward") agg_labels = agg.fit_predict(X) gmm = GaussianMixture(n_components=4, covariance_type="full", random_state=42) gmm_labels = gmm.fit_predict(X) for name, labels in [ ("kmeans", km_labels), ("hier", agg_labels), ("gmm", gmm_labels), ]: print(name, silhouette_score(X, labels))逻辑说明：三个模型都先fit_predict或者fit再predict，得到样本的簇标签。最后用silhouette_score计算轮廓系数，这个指标越大表示簇内越紧、簇间越远，是聚类结果的基本盘。注意轮廓系数对“样本数少、簇数多”的情况偏敏感，只用来横向比较，不要只看绝对值。
参数说明：n_clusters和n_components都是簇数，教学代码里通常写死在4或3，这是不对的。正确做法是先扫一遍k值，取轮廓系数最大的那个。n_init=10表示KMeans要跑10次随机初始化，取最佳结果，避免一次初始化掉进局部最优。linkage="ward"是层次聚类里最常用的连接方式，它用方差增量做合并标准，适合等大小的簇；如果数据里簇的大小差异明显，改用complete或average。covariance_type="full"让GMM允许每个簇有独立的协方差矩阵，最能拟合不规则形状，但参数数量也最多，数据太少时容易过拟合。
给出一个k值扫描的通用片段：
import numpy as np ks = range(2, 11) sil_scores = [] for k in ks: labels = KMeans(n_clusters=k, random_state=42, n_init=10).fit_predict(X) sil_scores.append(silhouette_score(X, labels)) best_k = ks[int(np.argmax(sil_scores))] print("best k:", best_k, "silhouette:", max(sil_scores))逻辑说明：循环里对每个k跑一次KMeans并计算轮廓系数，argmax找到最大值的索引，回推出最优k。轮廓系数不是越高越好的唯一标准，还要看业务上是否可解释，但在复现教学代码阶段，它是最快的定量参考。
参数说明：ks = range(2, 11)是把簇数从2试到10，你可以根据数据量调整范围。数据只有几十条时，k超过8就没有意义，簇里可能只剩几个样本；数据量大时，k的搜索步长可以改成2，减少耗时。
这里要注意三个模型的应用边界。KMeans假设簇是“球形”的，如果数据是两个长条形簇，KMeans会把中间切开，结果失真。层次聚类不要求预设形状，但计算复杂度高，样本量超过一万就要考虑降采样，否则光算距离矩阵就吃不消；而且层次聚类不能对新的未知样本做predict，只能一次fit_predict。GMM是概率模型，能给出每个样本属于每个簇的后验概率，适合需要“软聚类”的场景，但它假设每个簇服从高斯分布，对噪声数据敏感。复现时如果发现某个模型的轮廓系数明显低，先回去看数据分布符合哪种假设，而不是急着加参数。
5. 避坑指南：邹博这套代码最常见的5个翻车点
这一章是从实际复现里摔出来的血泪经验，不是理论推演。教学代码最大的问题是“能跑”和“正确”是两回事，下面五个坑按出现频率排。
5.1 环境与依赖相关的三个坑
现象1：解压后文件名出现乱码，或者代码里pd.read_csv("data/xxx.csv")报FileNotFoundError。原因：压缩包里的中文文件名在Windows默认解压下按ANSI解码，目录名变成乱码，导致代码里写死的相对路径对不上；还有一部分原因是解压目录本身用了中文路径。解决：不要双击解压，用命令行工具指定UTF-8。Linux/macOS下unrar x -o+ 文件.rar通常能正确处理；Windows下尽量把压缩包放到英文目录再解压，并使用7-Zip的“以UTF-8编码处理文件名”选项。解压后再写一个批量重命名脚本，把所有含中文的文件名统一改成英文，一劳永逸。
现象2：ImportError: cannot import name 'train_test_split' from 'sklearn.cross_validation'，或者Cannot import name 'Imputer'。原因：教学代码写作时用的sklearn还是0.20之前的版本，后来cross_validation模块合并进model_selection，Imputer也从preprocessing挪到了impute。解决：全局替换导入路径，最省事的是写一个一次性脚本改旧API：
import pathlib for p in pathlib.Path("src").rglob("*.py"): text = p.read_text(encoding="utf-8", errors="ignore") text = text.replace("from sklearn.cross_validation", "from sklearn.model_selection") text = text.replace("from sklearn.preprocessing import Imputer", "from sklearn.impute import SimpleImputer") p.write_text(text, encoding="utf-8")逻辑说明：rglob("*.py")递归找到所有Python文件，读取后做字符串替换，再写回。因为老代码里的导入语句基本都是这几种固定写法，直接替换比手改靠谱。替换完导入路径后，还要把Imputer(missing_values="NaN", strategy="mean")这种旧构造参数同步改成SimpleImputer(strategy="mean")，否则只改导入路径不够。
参数说明：如果你解压后的目录不叫src，改成你实际根目录。这个脚本是破坏性的，跑之前先复制一份原始文件做后悔药。老代码还有一类情况是Python 2语法，比如print "hello"、xrange。解决方式是先跑一遍2to3 -w -n src/把语法转成Python 3，再处理sklearn的API替换，顺序不要反。
现象3：运行Python时提示“由于找不到msvcp140.dll无法继续执行代码”。原因：这不是你代码的问题，是Windows系统缺VC++运行库。很多教学代码在Windows上运行都需要这个DLL，而默认的Python安装不会自动带上它。解决：去微软官网下载“Visual C++ Redistributable”最新版安装，装完重开命令行再跑。这一步不属于机器学习，却卡住了很多人，先排除它再怀疑代码。
5.2 数据与结果相关的两个坑
现象4：跑出来的准确率99%，但换到真实场景一塌糊涂。原因：大概率是把标准化或归一化放在切分训练集测试集之前，整个数据集共用了一套均值和方差，测试集相当于提前“偷看”了训练集信息；还有的教学代码直接在全量数据上训练，再在全量数据上预测，等于背书式评估。解决：严格按“先切分、再fit、再transform”的顺序处理数据。正确顺序是：
X_tr, X_te, y_tr, y_te = train_test_split( X, y, test_size=0.2, random_state=42) sc = StandardScaler() X_tr = sc.fit_transform(X_tr) X_te = sc.transform(X_te) # 绝不重新fit逻辑说明：fit_transform只在训练集上算均值和标准差，测试集只做transform，用同一套统计量。这样测试集到模型面前时，它的分布信息没有被提前看到。SVM、逻辑回归、神经网络、高斯回归过程这类对尺度敏感的模型都要按这个顺序走；树模型对尺度不敏感，但这种顺序仍然更稳妥。
现象5：同样一个算法，今天跑0.82，明天跑0.79，换个电脑跑0.85。原因：随机种子没有固定。KMeans的初始点、随机森林的列采样、SVC的优化过程、以及train_test_split的切分顺序，都依赖随机数。教学代码里为了“演示效果”经常故意不设种子，结果你看似在调参，实际在跟随机波动较劲。解决：所有带random_state的地方都填同一个值，比如42；KMeans额外设置n_init=10，避免单次初始化不稳。改完后，把运行结果记录成“模型名+参数+指标”，而不是只记一个数字。
提示：上面第五个坑在对比实验里最严重。如果你发现调参后的提升不超过一个标准差，那基本是随机噪声，不是模型真的变好了。
6. 把回归、SVM和聚类结果“钉死”的验证技巧
复现代码只是第一步，真正决定这套代码能不能用于你项目的是验证方式。最后的建议是：把所有单次的train_test_split换成五折交叉验证，让每个模型都输出“均值±标准差”，而不是一个裸的准确率。
写一个通用验证片段：
from sklearn.model_selection import KFold, cross_val_score from sklearn.pipeline import make_pipeline from sklearn.preprocessing import StandardScaler from sklearn.svm import SVC kf = KFold(n_splits=5, shuffle=True, random_state=42) pipe = make_pipeline( StandardScaler(), SVC(kernel="rbf", C=1.0, gamma="scale", random_state=42) ) scores = cross_val_score(pipe, X, y, cv=kf, scoring="f1_macro") print(f"f1_macro = {scores.mean():.4f} ± {scores.std():.4f}")逻辑说明：KFold先生成5折切分方案，shuffle=True打乱样本顺序，避免数据按原始顺序排布造成某折只含一类样本。cross_val_score自动跑5次训练和验证，返回5个分数。用均值和标准差一起汇报，才能判断“模型能力”和“随机波动”的差距。
参数说明：聚类没有标签，不能用这个片段，但可以用前面章节里的轮廓系数对比表。回归任务把scoring换成neg_mean_squared_error或r2，并去掉SVC改成回归模型。注意n_splits在数据少于几百条时不建议用5，用3或4更稳。每次跑实验前先写死种子，再跑交叉验证，最后用一张表记录“模型、参数、均值、标准差、训练时长”。这张表才是你从“跑通了”到“能用”之间最重要的一步。我早期复现代码只记最后一次run的分数，调参看着涨了就兴奋，后来发现那只是随机种子换了个值。现在的习惯是任何结论都从交叉验证里出，参数对比至少重复三次，再谈好坏。希望帮到你。
本文还有配套的精品资源，点击获取
