学生成绩预测系统实战：从特征工程到随机森林建模避坑指南

简介：基于机器学习的学生成绩预测系统是一份面向毕业设计、课程设计与期末大作业的完整项目压缩包，适合计算机相关专业学生参考或二次开发。系统整合线性回归、XGBoost、KMeans等算法，覆盖数据增强、超参数调优、模型评估与前端可视化流程，能帮助使用者理解从数据处理到成绩预测部署的完整链路。压缩包共34个文件，约816KB，包含4个Python脚本、4个训练好的pkl/model模型文件、3个Excel数据文件以及HTML、CSS、JavaScript前端模板与样式资源，目录按scripts、templates、static等分模块组织，另附README说明与requirements依赖清单，便于快速运行与扩展。已有51人学习下载，适合作为机器学习入门项目的代码范例。通过学习可掌握数据清洗、特征工程、模型调参及Flask Web交互界面的搭建方法，并为后续个性化学习预警系统的开发提供基础。

1. 学生成绩预测系统：先回答预测谁、用什么数据、输出什么

一份基于机器学习的学生成绩预测系统交付包，解压后通常就是 README、清洗脚本、训练代码、模型文件和一两个 csv。我见过最多的失败不是算法不会跑，而是数据还没准备好就开始调参：成绩字段泄漏、样本切分没有固定种子、归一化顺序颠倒，每个问题都能让最终评估结果变成数字游戏。这篇文章会从数据准备讲到建模评估，再给出一份避坑清单，最后封装一个可直接调用的单样本预测脚本。适合正在做课设、毕设，或者在教务系统里接成绩预测模块的工程师。值得先说清楚：这类系统衡量的不是“预测得多准”，而是“结果能不能稳定复现、特征解释是否站得住”。

2. 数据准备与特征工程：把 student-mat.csv 整理成能训练的形状

2.1 先选对数据集：UCI 学生成绩数据的字段与用法

成绩预测的第一步不是选模型，而是定义问题：预测哪门课、预测哪个时间点的成绩、用什么字段去预测。常见做法是拿 UC Irvine 公开的 Student Performance 数据集里的student-mat.csv起步，它收录了葡萄牙两所中学学生的数学成绩和相关背景信息，目标字段是期末成绩 G3，满分 20 分。选它而不是自己学校教务系统的数据，理由有三：公开数据集可复现，论文或说明文档里写清楚数据集名称即可；字段语义清楚，不需要教务权限，不会涉及隐私合规问题；它包含的缺勤次数、历史挂科数、学习时长、父母学历这类字段，和国内学情管理系统的学生画像非常接近。

这份数据大约三百多条记录，不要嫌少。样本量小于一千时，模型复杂度必须克制，树模型和线性模型远比深度模型稳妥。同时，特征列中有几个是肉眼可见的强信号：failures是历史挂科次数，absences是缺勤次数，studytime是每周学习时长分段，Medu和Fedu是父母学历等级。这些字段直接对应教学管理里常说的高危因素，拿到数据先看这几个字段的分布，比急着跑模型有用得多。

关于 G1、G2 这两列，我在第四章会专门展开。这里先记住一个原则：如果你是预测期末成绩 G3，那么前两次阶段成绩 G1、G2 属于“透露答案”的特征，常规建模要剔除。

2.2 清洗与特征构造：从分号分隔的 CSV 到可训练矩阵

这份数据的分隔符是分号，不是逗号，直接pd.read_csv("student-mat.csv")会把整份数据读成一列。清洗代码的第一行就要把分隔符写对，同时把目标列和特征列分开。

import pandas as pd df = pd.read_csv("student-mat.csv", sep=";") print(df.shape, df.columns.tolist()) target = df["G3"].copy() feature_df = df.drop(columns=["G1", "G2", "G3"]) feature_df = pd.get_dummies(feature_df, drop_first=True)

这段代码的逻辑是：先把期末成绩 G3 单独取出来作为预测目标，再把三个成绩相关的列从特征矩阵中删掉。get_dummies负责把school、sex、address这类文本字段转成 0/1 数值列，drop_first=True会删掉每个类别字段的第一列，避免产生完全共线的哑变量。参数说明：sep=";"必须写，否则整个 DataFrame 只有一列；drop_first=True在后续做线性回归时尤其重要，它能防止设计矩阵奇异导致系数无法解释。

构造特征时我会额外加两列：一个是studytime和failures的乘积，用来捕捉“学得少且挂科多”的叠加效应；另一个是absences的对数变换，因为缺勤次数的分布严重右偏，少数极端高缺勤值会把模型拉偏。

import numpy as np feature_df["studytime_failures"] = feature_df["studytime"] * feature_df["failures"] feature_df["absences_log"] = np.log1p(feature_df["absences"])

np.log1p是log(x + 1)的简写，好处是当absences为 0 时结果也是 0，不会出现负无穷。交叉特征不保证一定有效，但放进随机森林里会被当作一种隐含的交互规则，通常比单独两个原始特征更能说明问题。注意这里不要对目标值 G3 做任何变换，因为最终业务方要看的是原始分数，不是对数分数。

2.3 训练集测试集划分：为什么固定随机种子比换模型更重要

数据清洗完成后的下一步是划分训练集和测试集。很多新手在这里随手写一行train_test_split，却忽略了两个关键点：随机种子不固定会导致每次跑分结果都不同；同一个学生的多条记录没有按人分组，会造成跨数据集的信息泄漏。

from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split( feature_df, target, test_size=0.2, random_state=42, )

test_size=0.2表示拿 20% 的数据做测试集；random_state=42是固定随机数种子。只要种子固定，无论谁拿到这份代码，跑出来的切分结果都一致，这是项目可复现的最低要求。在三百多条样本上，单次切分的评估结果抖动很大，后面交叉验证时会用shuffle=True的 KFold 来缓解。

如果自己采集的数据里同一个学生有多条记录，比如记录了这个学生多个学期的成绩，就必须换成按人分组的方式划分。

from sklearn.model_selection import GroupShuffleSplit gss = GroupShuffleSplit(n_splits=1, test_size=0.2, random_state=42) for train_idx, test_idx in gss.split(feature_df, target, groups=df["student_id"]): X_train, X_test = feature_df.iloc[train_idx], feature_df.iloc[test_idx] y_train, y_test = target.iloc[train_idx], target.iloc[test_idx]

groups参数传学生 ID，GroupShuffleSplit 保证同一个学生的所有记录要么全在训练集，要么全在测试集。公开数据集里每个学生只有一条记录，所以前面直接用train_test_split没问题，但如果你把系统扩展到跨学期预测场景，这一步就是硬门槛。

3. 建模与评估：线性回归做基线，随机森林做交付模型

3.1 基线模型选择：线性回归先看特征是否有效

建模分两步走：第一步跑不加任何技巧的线性回归作基线，第二步再用随机森林做交付模型。机器学习算法的选择不该从网红模型开始，而是先问自己一个问题：如果连最简单的线性模型都跑不出合理结果，换复杂模型大概率是在放大噪声。

线性回归在这个场景里的价值有三个：系数直接可解释，能告诉你“缺勤次数增加一档，期末成绩平均低几分”；计算极快，几十毫秒出结果；它的 R² 是最低参考线。如果随机森林比线性回归的 R² 高出一大截，说明特征与成绩之间确实存在明显的非线性关系；如果两者差不多，那说明信息量已经到顶，换模型不如换特征。

from sklearn.pipeline import Pipeline from sklearn.preprocessing import StandardScaler from sklearn.linear_model import LinearRegression from sklearn.model_selection import KFold, cross_val_score pipeline = Pipeline([ ("scaler", StandardScaler()), ("lr", LinearRegression()), ]) cv = KFold(n_splits=5, shuffle=True, random_state=42) scores = cross_val_score(pipeline, X_train, y_train, cv=cv, scoring="r2") print(scores, scores.mean())

这段代码把标准化和线性回归封装进 Pipeline，然后用 5 折交叉验证评估。shuffle=True很关键，它会在每折之前打乱样本顺序，避免原始数据里按班级或学号排序带来的偏差。scoring="r2"表示每一折都输出决定系数 R²。参数说明：n_splits=5在三百多条样本上每折约六十多条测试样本，抖动是可以接受的；如果样本只有不到一百条，建议改成n_splits=3，否则单折测试集太小，评估结果会像过山车一样来回跳。

作为基线，线性回归的 R² 往往不高，甚至可能出现负值，这是正常现象。成绩本来就受大量不可控因素影响，模型能解释百分之二三十的方差已经算有可用价值。但注意，这里用的是“解释方差”的逻辑，不是“预测准不准”的逻辑，下一节会详细说指标怎么读。

3.2 交付模型训练：随机森林的参数设置与模型保存

线性回归确认特征方向没跑偏之后，就用随机森林做交付模型。随机森林是成绩预测这类小样本表格任务里最稳的选择：不需要预处理，对缺失值有一定容忍度，能给出特征重要性，调参空间不大但效果通常比线性模型高一个档次。相比之下，用 MLP 这类深度模型在小样本上很容易过拟合，可解释性也弱，不适合作为交付主力。

from sklearn.ensemble import RandomForestRegressor from sklearn.model_selection import GridSearchCV param_grid = { "n_estimators": [200, 500], "max_depth": [3, 6, 9], "min_samples_leaf": [1, 2, 5], } rf = RandomForestRegressor(random_state=42, n_jobs=-1) grid = GridSearchCV(rf, param_grid, cv=5, scoring="r2", refit=True) grid.fit(X_train, y_train) print("best params:", grid.best_params_)

param_grid里三个参数的设置逻辑各不相同：n_estimators是树的数量，200 到 500 之间通常就够，太多只会增加训练时间不会带来显著提升；max_depth限制树的深度，小样本场景下深度超过 9 几乎必然过拟合；min_samples_leaf强制每个叶子节点至少包含 1 到 5 个样本，这个参数对抑制方差作用明显，建议直接设 2 或 5。n_jobs=-1会调用所有 CPU 核心加速网格搜索，如果你在共享服务器上跑任务，改成n_jobs=2更礼貌。

模型训练完成后，紧接着就要保存模型和特征列名，这一步常被忽略。

import joblib joblib.dump(grid.best_estimator_, "grade_model.joblib") joblib.dump(list(X_train.columns), "feature_names.joblib")

joblib.dump保存的是完整模型对象，加载后可以直接调用predict。第二行保存特征列名列表，原因是 sklearn 在训练时会把 pandas DataFrame 转成 numpy 数组，模型本身不记得列名；上线预测时如果新数据的特征顺序差一列，结果会整体错位。保存 feature_names 相当于给模型配了一份列名地图，预测前按列名重新对齐，这也是整个 zip 交付包中最容易被漏掉的环节。

3.3 怎么读 R²、MAE、RMSE：成绩预测的指标读数法

到了评估环节，很多交付报告只写一个 R²，这是远远不够的。成绩预测场景里，三个最常用的回归指标各看一个侧面，少看一个都可能被误导。

from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score y_pred = grid.predict(X_test) print("R2:", r2_score(y_test, y_pred)) print("MAE:", mean_absolute_error(y_test, y_pred)) print("RMSE:", np.sqrt(mean_squared_error(y_test, y_pred)))

这段代码在测试集上一次性输出三个指标。R² 看整体解释力，MAE 看业务上“平均差几分”，RMSE 看是否存在特别离谱的预测。参数说明：新版 sklearn 已经移除了mean_squared_error里的squared参数，所以写np.sqrt(mean_squared_error(...))最稳妥，不要依赖已经被废弃的写法。

成绩预测这类高噪声的人类行为预测，R² 落在 0.2 到 0.5 之间是常态，不要因为看到 0.3 就觉得模型废了。真正要盯的是 MAE：如果训练集的 MAE 是 1.8 分，测试集 MAE 是 2.1 分，说明模型泛化能力基本可信；如果训练集 MAE 只有 0.5，测试集却有 4 分，那就是过拟合到把训练样本背下来了。

4. 成绩预测避坑清单：数据泄漏、随机种子与归一化顺序

4.1 把 G1、G2 当特征：R² 虚高的数据泄漏

现象：特征里包含 G1、G2 时，线性回归的 R² 能冲到 0.8 以上；把这两列删掉后，R² 立刻掉到 0.3 以下。原因：G2 是期末考试前的最近一次阶段成绩，和 G3 的高度相关性本质上是在用“已经发生的考试结果”预测“还没发生的考试结果”，属于典型的数据泄漏。一般情况下，成绩预测是预测未来，不能在特征里放进未来才能知道的信息。解决：默认剔除 G1、G2；如果业务场景是“期中考试结束后预测期末成绩”，那就把 G1 作为合法特征，并在模型说明文档里写清楚预测起点是期中之后。另一个容易忽视的泄漏途径是同一个学生的多条记录没有按人分组，训练集和测试集里出现同一个人的不同学期成绩，交叉验证分数会虚高，解决办法已在 2.3 节给出，用 GroupShuffleSplit 按学生 ID 分组。

4.2 随机种子不固定：两次训练结果对不上

现象：同一个脚本不加random_state跑两次，R² 能差出 0.1 以上，特征重要性的排序也经常变化。原因：train_test_split和随机森林内部都依赖随机数，不固定随机状态时，每次数据切分、每次特征子集采样结果都不同。这不是跑分玄学，而是项目不可复现的直接原因。解决：所有带随机性的函数统一传random_state=42，并把种子写进 README；团队成员拿到同一个 zip 包，跑出来的结果必须一致。如果想让报告更有说服力，可以固定种子后重复跑十次，输出均值加减标准差，这样业务方看到的是一个波动范围，而不是一次碰运气得到的数字。这里有一个血泪经验：我见过一次交付，两个工程师用同一份代码跑出的 R² 一个是 0.35 一个是 0.19，排查半天发现是其中一人把训练脚本里的随机种子注释掉了。

4.3 全量数据先归一化再切分：线性回归翻车的头号原因

现象：把StandardScaler().fit(X)写在train_test_split之前，测试集上的 R² 有时正常，有时直接变成负数。原因：scaler 在全量数据上计算了均值和方差，相当于训练过程“偷看”了测试集的统计信息。测试集不再干净，评估结果就失真。解决：正确顺序是先切分再标准化，或者像 3.1 节那样把 scaler 放进 Pipeline，让每一折交叉验证都只使用当前训练折的统计量。同样的逻辑也适用于缺失值填充：SimpleImputer也应该放进 Pipeline，而不是在全量数据上先算好填充值。这个小样本场景尤其危险，因为单折测试集只有几十条，标准化用的均值和方差非常敏感，全量拟合造成的影响会被成倍放大。

4.4 用准确率衡量回归型成绩预测：虚高指标掩盖模型无效

现象：把成绩二分类成“及格/不及格”，准确率 0.85，看起来模型很厉害，实际模型什么都没学会。原因：这个班级本来就有约 85% 的学生能及格，模型什么都不做、全部预测“及格”，准确率同样是 0.85。类别不平衡下准确率是最容易骗人的指标，而且分类操作把 0 到 20 分的连续信息全部砍掉，模型无法区分“刚好及格”和“接近满分”的学生。解决：先做回归，预测出原始分数，再按业务阈值（比如 10 分）切成及格/不及格标签；评估时报告平衡准确率或 F1，不能只报准确率。在交付系统时优先交付回归模型，分类标签由业务方自己定阈值，这样模型的可复用性会高很多。

4.5 只保存模型不保存列名：部署时报 feature mismatch

现象：训练完只保存了模型文件，另一个脚本加载后直接预测，要么报特征数量不匹配，要么不报错但结果完全偏离。原因：sklearn 的模型在训练时接收的是 numpy 数组，不会记住 pandas 的列名；新数据只要列顺序错一位，模型就会静默地拿错误的特征做预测。解决：训练结束后把所有特征列名单独保存，预测前按列名对齐。下面这段代码是训练部分的补充，把列名存成文本文件。

with open("feature_names.txt", "w", encoding="utf-8") as f: f.write("\n".join(X_train.columns))

参数说明：encoding="utf-8"是为了防止 Windows 默认编码问题，文本文件便于直接查看和 diff 对比。预测脚本加载时按行读取列名列表，再用 DataFrame 的df[feature_names]语法强制对齐列顺序。我用过的最省心方案是完整保存一份“列名快照”到 joblib 里，和模型文件放在同一个目录，zip 交付时一起打包给下游。

5. 把模型封装成成绩预测脚本：单样本调用与特征解释

5.1 单样本预测脚本：输入学生信息直接输出成绩区间

模型训练完不是终点，交付一个能被老师直接使用的脚本才是终点。下面这段代码读取新学生的基本信息，调用已保存的模型输出预测分数，并给出一个基于测试集误差的浮动区间。

import joblib import pandas as pd model = joblib.load("grade_model.joblib") feature_names = joblib.load("feature_names.joblib") new_student = { "school_MS": 0, "age": 17, "Medu": 3, "Fedu": 2, "studytime": 3, "failures": 1, "absences": 8, "goout": 2, "health": 3, "studytime_failures": 3, "absences_log": 2.2, } x = pd.DataFrame([new_student]) for col in feature_names: if col not in x.columns: x[col] = 0 x = x[feature_names] pred = model.predict(x)[0] print(f"预测期末成绩: {pred:.1f} 分") print(f"参考波动区间: ±{1.8:.1f} 分")

逻辑说明：先把新学生信息组成单行 DataFrame，然后用训练时保存的 feature_names 强制对齐列；某些 one-hot 生成的哑变量列在新数据里没出现时，自动补 0。参数说明：波动区间用测试集 MAE 换算，如果测试集 MAE 是 1.8，那就写“预测 13.5 分，参考区间 11.7 到 15.3 分”。这个区间比单个数字诚实，老师拿到后也知道不能只凭一个点做决策。

5.2 特征重要性读法：缺勤、挂科与学习时间谁在主导成绩

随机森林自带特征重要性输出，这是成绩预测系统里最有说服力的一张图。

import pandas as pd import joblib model = joblib.load("grade_model.joblib") feature_names = joblib.load("feature_names.joblib") imp = pd.Series(model.feature_importances_, index=feature_names) imp = imp.sort_values(ascending=False) print(imp.head(10))

逻辑说明：特征重要性的含义是“该特征在所有决策树分裂中带来了多少信息增益”，数值越大说明模型越依赖它。在几百条样本上，重要性排序会出现随机波动，所以要看多次运行后排名靠前的稳定特征。成绩预测数据集的常见结果里，failures、absences、studytime、Medu通常排在前列，这符合教学管理经验：历史挂科数是最强的预警信号，缺勤次数的解释力往往超过试卷难度。如果要做学情分析报告，拿特征重要性去和教务处的预警名单对照，比单独报 R² 更能打动业务方。

5.3 一个值得养成的验证习惯：新班级盲测

最后一个建议与模型参数无关，而是一个交付习惯：模型训练完成后，不要急着写报告，先拿一个没有参与训练的新学期班级做一次盲测。做法很简单：训练时不掺入新班级的任何数据，等新班级期中考试结束后收集特征，期末考试成绩公布后对一次 MAE。如果新班级的 MAE 比训练时的交叉验证结果高一截，优先检查两件事：特征口径有没有变，比如新班级的缺勤统计从“次数”改成了“课时”；成绩量纲有没有变，比如训练集是 20 分制，新班级改成了百分制。特征分布变了，再强的模型也会失效。

我自己第一次交付这个方向的项目时，在旧数据上跑得漂亮，到新班级盲测直接跌了 2 分多，最后发现是“缺勤”字段的口径变了。所以现在的习惯是：先把跨学期盲测跑完，再动模型；盲测结果差，优先从前处理找问题，而不是急着换算法。系统只有能经得起时间推移的验证，才能真正落到教学管理里。希望帮到你。

本文还有配套的精品资源，点击获取