简介：一份基于Python实现的LSTM-MLP长短期记忆网络组合多层感知机时序预测完整源码与配套数据集，适合计算机、电子信息、数学等专业学生完成课程设计、期末大作业或毕业设计，也便于深度学习初学者快速上手。代码基于Anaconda、PyCharm和TensorFlow编写，采用参数化编程，参数可随时调整，且几乎做到一行一注释，极大降低阅读门槛。资源包共3个文件，包含1个Python脚本和2个CSV数据文件（用于时序预测实验），压缩后仅48KB，轻量易下载。目前已有947人学习/下载。通过这份源码，读者可掌握LSTM与MLP组合建模的完整流程，理解数据加载、模型搭建、训练与预测的代码写法，并可直接替换数据集开展自己的预测任务，是兼顾学习与实战的参考范例。
1. LSTM-MLP组合时序预测：一个源码能跑通、效果可验证的入门级方案
做时序预测的人大多遇到过这种尴尬：单拿LSTM出来，训练慢、调参玄学，预测值总比真实值慢半拍；单拿MLP出来，速度快但完全学不会序列依赖，遇到趋势项直接躺平。LSTM-MLP组合模型把两者串成一条流水线——LSTM层负责从滑窗里提取时间依赖，MLP层负责把LSTM输出的高维特征映射到最终预测值。这个方案在金融时序预测、设备寿命预测、销量预测这些场景里非常常见，特点是训练稳定、收敛快，而且用Keras几十行就能搭起来。这篇文章从原理拆到完整可跑的Python源码，把数据预处理、模型构建、训练评估和踩过的坑一次讲清，适合想快速验证LSTM时序预测效果、又不想在框架细节上耗太多时间的从业者。
2. 为什么是LSTM+MLP：组合方式与选型边界
2.1 LSTM管时间、MLP管映射：两个模块的分工
LSTM-MLP不是一个新模型架构，它本质上是两个模块的流水线组合。LSTM（长短期记忆网络）擅长处理序列数据，核心机制是门控——输入门、遗忘门、输出门共同决定上一时刻的信息有多少保留到当前时刻。这个机制让它在面对长时间依赖时不会像普通RNN那样梯度消失。但LSTM有个实际问题：它输出的是一串高维向量，直接拿来做回归预测，最后一层往往不够稳定，尤其是当预测目标与时间特征之间是非线性关系时。
MLP（多层感知机）在这里的角色不是特征提取器，而是回归头。LSTM把长度为lookback的输入序列压缩成固定长度的特征向量后，MLP负责把这些特征映射到预测目标。你可以把LSTM理解成编码器，把MLP理解成解码器。用Keras的函数式API做这个组合非常顺手，因为可以明确看到两个子模型的输入输出边界。
import tensorflow as tf from tensorflow.keras.models import Model from tensorflow.keras.layers import Input, LSTM, Dense def build_lstm_mlp(lookback, n_features, lstm_units=64, mlp_units=[32, 16]): # 输入形状: (样本数, 回看窗口长度, 特征数) seq_input = Input(shape=(lookback, n_features), name='seq_input') lstm_out = LSTM(lstm_units, activation='tanh', return_sequences=False)(seq_input) # MLP部分 mlp_hidden = Dense(mlp_units[0], activation='relu')(lstm_out) mlp_hidden = Dense(mlp_units[1], activation='relu')(mlp_hidden) output = Dense(1, activation='linear')(mlp_hidden) model = Model(inputs=seq_input, outputs=output) return model这段代码的核心在return_sequences=False——LSTM只返回最后一个时间步的隐藏状态，把整个窗口的信息压缩成一个向量。这里lstm_units控制LSTM的容量，mlp_units控制回归头的复杂度。参数设置的思路是：LSTM宽度不要一开始就拉满，64起步，MLP两个隐层足够，再多就容易过拟合。
2.2 三种常见组合结构：串联、残差旁路与并行特征融合
刚才展示的是最基础的串联结构。实际工程中还有两种变体值得知道，因为它们对应不同的数据场景。
第一种是残差旁路。把原始滑窗的最后一个时间步直接接到MLP的输入端，与LSTM的输出拼接后再过MLP。这种结构适合目标值与最近时刻相关性极强的场景，比如股票价格预测中，今天收盘价对明天开盘价的影响往往比一周前的数据更大。
from tensorflow.keras.layers import Concatenate, Lambda def build_lstm_mlp_residual(lookback, n_features, lstm_units=64): seq_input = Input(shape=(lookback, n_features), name='seq_input') lstm_out = LSTM(lstm_units, activation='tanh')(seq_input) # 取出滑窗最后一个时间步作为残差旁路 last_step = Lambda(lambda x: x[:, -1, :])(seq_input) concat = Concatenate()([lstm_out, last_step]) x = Dense(32, activation='relu')(concat) output = Dense(1, activation='linear')(x) model = Model(inputs=seq_input, outputs=output) return model第二种是并行特征融合。当你不只有时间序列数据，还有静态特征（比如设备编号、产品类别、天气温度）时，可以让MLP单独接收静态特征，与LSTM的输出在后期拼接。这个结构在设备寿命预测场景里很常见——传感器时序数据走LSTM，设备型号和工况参数走MLP，最后汇合预测剩余寿命。要注意拼接后两个分支的输出维度要能对上，否则Concatenate会报错。
2.3 选型边界：什么时候该用这个组合，什么时候别用
LSTM-MLP不是万能的。我见过不少人拿它做所有时序任务，结果效果还不如线性回归。这个组合的适用场景有三个特征：序列长度适中（几十到几百个时间步）、样本量在几千到几十万之间、目标值与历史值之间存在非线性依赖。
以下情况建议换方案：数据量少于几千条，LSTM容易过拟合，不如直接用MLP或XGBoost；序列长度超过几千步，LSTM训练极慢且梯度传播困难，考虑Transformer或Informer这类稀疏注意力模型；数据几乎是平稳随机噪声，没有可学习的时序依赖，任何模型都救不了。另一个常见的误用是拿LSTM-MLP做超长期预测（比如预测未来30天），这本质上是多步预测问题，单步输出的LSTM-MLP会累积误差，需要改造成第6章讲的迭代或直接多步输出结构。
提示：选型时先跑一个线性基线（比如用
sklearn的LinearRegression配合滑窗特征），如果线性模型已经能到80%的效果，说明数据依赖足够简单，不需要上LSTM-MLP。
3. 搭建可复现的LSTM-MLP时序预测工程：数据、模型与训练脚本
3.1 工程目录与数据格式约定
拿别人源码跑不通，八成是数据格式没对齐。我习惯的工程结构固定成下面这样，移植到任何机器上都能跑：
lstm_mlp_forecast/ ├── data/ │ ├── raw.csv # 原始时序数据，第一列为时间戳，第二列为目标值 │ └── processed/ # 预处理后的npz文件 ├── src/ │ ├── data_preprocess.py # 滑窗、归一化、数据集切分 │ ├── model.py # 模型定义 │ ├── train.py # 训练入口 │ └── predict.py # 加载模型做预测 ├── checkpoints/ # 模型权重保存目录 └── requirements.txt数据格式是最容易踩坑的地方。raw.csv必须满足两个硬性要求：时间戳严格递增、无缺失时间点。如果你的原始数据有时间缺口（比如周末没有交易数据），要么补全（前向填充），要么按时间索引重采样，否则滑窗切出来的样本里会混入跨缺口的时间步，模型学到的是错误的“依赖关系”。
3.2 数据预处理：滑窗构造样本、归一化与训练/验证切分
时序预测的数据预处理与普通机器学习最大的区别是：不能用随机切分，必须按时间顺序切。我把完整流程封装成一个脚本，每一步都有明确输出。
import numpy as np import pandas as pd from sklearn.preprocessing import MinMaxScaler def prepare_data(csv_path, lookback=24, test_ratio=0.2): # 读取原始数据: 约定csv有两列, 分别是 timestamp 和 value df = pd.read_csv(csv_path, parse_dates=['timestamp']) df = df.sort_values('timestamp').reset_index(drop=True) # 只保留数值列做归一化 scaler = MinMaxScaler(feature_range=(0, 1)) values = scaler.fit_transform(df[['value']].values) # 滑窗构造样本: X[i] = values[i : i+lookback], y[i] = values[i+lookback] X, y = [], [] for i in range(len(values) - lookback): X.append(values[i : i + lookback]) y.append(values[i + lookback]) X = np.array(X) # shape: (样本数, lookback, 1) y = np.array(y) # shape: (样本数, 1) # 按时间顺序切分, 不使用随机打乱 split_idx = int(len(X) * (1 - test_ratio)) X_train, X_val = X[:split_idx], X[split_idx:] y_train, y_val = y[:split_idx], y[split_idx:] return X_train, X_val, y_train, y_val, scaler这段代码有三个关键点。第一，MinMaxScaler必须在切分之前fit，而且只对训练集fit、用同一scaler变换验证集——如果分别fit，训练集和验证集的分布会被拉到不同的尺度，模型评估结果完全失真。第二，滑窗是for循环逐个滑动，步长是1，也就是说相邻样本之间重叠了lookback-1个时间步，这是正常的。第三，切分函数用了split_idx而不是train_test_split，因为后者默认随机打乱，会破坏时间顺序，导致模型“偷看未来”。
我一般把test_ratio设为0.2，但如果你数据量很大（超过10万条），建议改成0.1；反之数据量小，0.3能提供更可靠的验证集。lookback的选择直接看业务周期——日粒度数据做月度预测，lookback至少28；分钟粒度数据做小时预测，lookback至少60。
3.3 模型构建：Keras函数式API实现LSTM+MLP组合
回到模型定义。我用TensorFlow Keras的函数式API，因为组合模型用Sequential写起来很别扭——你需要在LSTM后接Dense层，如果后面想加残差旁路或特征融合，Sequential就无能为力了。函数式API的每个层都可以视为一个函数，输入输出显式声明，结构一目了然。
def build_model(lookback, n_features=1, lstm_units=64, dropout_rate=0.2): inputs = Input(shape=(lookback, n_features)) # LSTM特征提取层 x = LSTM(lstm_units, return_sequences=False, kernel_initializer='he_normal')(inputs) x = Dropout(dropout_rate)(x) # MLP回归头 x = Dense(32, activation='relu')(x) x = Dropout(dropout_rate/2)(x) x = Dense(16, activation='relu')(x) output = Dense(1, activation='linear')(x) model = Model(inputs=inputs, outputs=output) return model注意kernel_initializer='he_normal'这一行。LSTM默认的glorot_uniform初始化在配合relu激活时容易让深层梯度缩小，换成he_normal后训练初期loss下降更稳定。dropout在LSTM层和MLP层都加了，时序预测模型非常容易过拟合，因为滑窗样本之间有大量重叠，模型记住样本比学会规律更容易。通常LSTM层的dropout设0.2到0.3，MLP层减半，效果比较好。
3.4 训练配置：损失、优化器、早停与学习率
训练LSTM-MLP的损失函数用mae还是mse，各有利弊。mse对异常值敏感，会让模型拼命拟合离群点，适合数据干净的场景；mae更稳健但收敛慢。我的经验是先用mae跑10个epoch看loss曲线，如果验证集loss在稳定下降，再切到mse精调。
优化器我固定用Adam，学习率从1e-3起，配合ReduceLROnPlateau自适应衰减。这个组合在大多数时序数据上都不需要手动调学习率，省掉很多试错时间。
from tensorflow.keras.callbacks import EarlyStopping, ReduceLROnPlateau, ModelCheckpoint model.compile(optimizer='adam', loss='mse', metrics=['mae']) callbacks = [ EarlyStopping(monitor='val_loss', patience=15, restore_best_weights=True), ReduceLROnPlateau(monitor='val_loss', factor=0.5, patience=5, min_lr=1e-6), ModelCheckpoint('checkpoints/best_model.h5', monitor='val_loss', save_best_only=True, verbose=0) ] history = model.fit( X_train, y_train, validation_data=(X_val, y_val), epochs=200, batch_size=64, callbacks=callbacks, verbose=1 )patience=15意味着验证集loss连续15个epoch不改善就停。时序数据训练速度快，15个epoch的等待成本不高，但能有效避免过拟合。restore_best_weights=True是后悔药——EarlyStopping触发时自动把权重回滚到验证集loss最低的那个epoch，比训练完再加载checkpoint更省事。batch_size设64，如果你的数据量小（几千条），改成16效果更好；数据量大，256可以加快训练。训练完成后，checkpoints/best_model.h5保存的就是效果最好的权重，不是最后一个epoch的。
4. 训练后的完整预测流程：评估指标、反归一化与单步预测落地
4.1 评估指标怎么选：不只盯RMSE
LSTM-MLP训练完，大家习惯看RMSE，但RMSE在时序预测里有个陷阱：它把不同时间点的误差平等相加，完全忽略预测值相对于真实值“滞后”的问题。我见过模型预测曲线和真实曲线几乎重合，RMSE也很低，但你放大看，预测值永远比真实值晚一个时间步——模型学到的是“昨天的值就是今天的最好预测”，这叫滞后效应。
正确的姿势是两个指标一起看。RMSE衡量整体误差幅度，MAPE（平均绝对百分比误差）衡量相对误差。MAPE的计算方式很简单：
def mean_absolute_percentage_error(y_true, y_pred): return np.mean(np.abs((y_true - y_pred) / y_true)) * 100另外一定要把预测值和真实值画在同一张图上，用肉眼看滞后。如果你发现预测曲线是真实曲线向右平移了一个时间步，说明模型退化成朴素预测器——y_pred[t] ≈ y_true[t-1]。这种问题RMSE看不出来，因为逐点误差可能不大，但业务上完全不可用。
4.2 反归一化与结果对齐：预测值要回到原始量纲
模型训练时输入输出都做了MinMaxScaler归一化，预测出的值在0到1之间，必须反变换回原始量纲才能交付业务方。这一步做错，预测结果会直接离谱——比如把归一化后的0.5当作真实值50，误差放大一百倍。
def inverse_scale_predictions(model, X_val, scaler): # 预测得到归一化值 pred_norm = model.predict(X_val) # 反归一化: MinMaxScaler的inverse_transform要求形状是(n_samples, n_features) pred = scaler.inverse_transform(pred_norm) return predinverse_transform不是把数组里的每个数简单乘个系数，它内部使用fit时记录的最小值和缩放范围做逆运算，所以必须用同一个scaler实例。这里有个容易被忽略的细节：如果你在预处理时对多列特征做了归一化，scaler存储的是多列的参数，inverse_transform时需要传入形状匹配的数组。如果只归一化了value一列，那么预测值形状是(样本数, 1)，直接传就可以。
4.3 一条命令跑完整流程：从训练到预测的脚本串联
工程化落地时，训练和预测应该分开。我用一个shell命令串联整个流程，保证每次复现的结果一致：
python src/data_preprocess.py && \ python src/train.py --epochs 200 --batch_size 64 && \ python src/predict.py --checkpoint checkpoints/best_model.h5train.py里参数用argparse解析，方便在命令行调整。predict.py的核心逻辑是：加载best_model.h5，读入最新的lookback个时间步数据，调用model.predict得到下一步预测值，反归一化后追加到结果列表，然后滚动窗口——把最新预测值拼进输入序列，丢掉最老的时间步，再预测下一步。这就是单步滚动预测的标准写法。
def rolling_forecast(model, last_sequence, scaler, steps=7): # last_sequence: shape (lookback, n_features), 已归一化 results = [] current_seq = last_sequence.copy() for _ in range(steps): # 预测下一步, 输入需要扩展一个batch维度 next_pred = model.predict(current_seq[np.newaxis, :, :], verbose=0) next_pred_inv = scaler.inverse_transform(next_pred)[0, 0] results.append(next_pred_inv) # 滚动: 移除最老的时间步, 加入刚预测出的值(归一化后) next_pred_norm = (next_pred_inv - scaler.data_min_[0]) / scaler.scale_[0] current_seq = np.roll(current_seq, -1, axis=0) current_seq[-1, 0] = next_pred_norm return results这里np.roll做的是循环移位，把整个序列往前推进一位，最后一位填入新预测值。注意scaler.data_min_和scaler.scale_是公开属性，可以直接用来手动反归一化。如果直接用scaler.transform，会因为形状不匹配报错。手动计算这行代码是很多人容易漏的细节——从inverse_transform结果里取到的已经是原始量纲，要放回滑窗继续预测，必须先换回归一化量纲。
5. LSTM-MLP时序预测的常见坑：现象、原因与解决
5.1 归一化泄漏：验证集loss很好看，测试集一塌糊涂
现象：训练集loss和验证集loss都收敛得很好，RMSE很低，但模型部署到新数据上预测结果完全偏离。原因：数据预处理时用了全量数据的均值和方差做归一化，包括验证集和测试集的信息。这就像考试前偷看了答案，训练时模型已经“见过”验证集的分布范围。解决：严格按时间切分后，只对训练集fit归一化器，验证集用同一个已拟合的归一化器transform。我的习惯是在预处理脚本里直接输出.npz文件，后续训练和预测脚本只加载文件，不再碰原始数据，从流程上杜绝泄漏。
5.2 随机切分数据集：模型学会了“穿越”
现象：验证集loss极低，但画预测曲线发现，预测值在时间上领先真实值，形状却完全对不上时间轴。原因：用sklearn的train_test_split默认参数切分，数据被随机打乱，训练集的后面时间步可能来自原始序列的任意位置，模型学到的是“整个序列的平均形态”，而不是时间依赖。解决：永远用按索引切分的方式，比如X_train = X[:split_idx]。如果你不确定自己写的切分有没有打乱顺序，打印验证集第一个样本的时间戳，跟训练集最后一个样本的时间戳对比，确认是递增衔接的。
5.3 LSTM单元数设置过大：训练慢且过拟合
现象：模型参数量几十万，训练一个epoch要几十秒，验证集loss在下降一段时间后开始反弹。原因：lstm_units设到了256甚至512，LSTM层的参数量是4 * units * (units + input_dim)， units翻倍参数量约翻4倍。小数据集根本撑不起这么大的容量。解决：从32或64起步，观察训练集loss能否下降到接近0。如果训练集loss都降不下去，说明容量不够；如果训练集降了验证集反弹，说明容量过剩。增加dropout率或减小lstm_units，而不是急着加深网络。
5.4 多步预测误差累积：第5天的预测值明显漂移
现象：单步预测误差很小，但滚动预测到第5天、第7天时，预测值逐渐偏离真实值，有时甚至出现持续走高或走低。原因：滚动预测把模型的输出当作下一时刻的输入，模型在训练时见到的输入全是真实历史值，预测时输入的却是自己生成的值，分布偏移导致误差累积。解决：训练阶段使用教师强制（teacher forcing）的变体，适当把真实历史值替换成模型自己的预测值混合输入；或者在预测阶段每预测一步就用真实值修正一次（如果有实时数据）。这是时序预测的固有难题，不是模型结构能完全解决的。
5.5 验证集按时间切分后指标比随机切分差很多
现象：换成时间顺序切分后，验证集MAPE从5%涨到15%，怀疑自己的代码写错了。原因：这是正常现象，时间顺序切分意味着验证集数据是从未出现过的未来时段，模型没有“见过”这些样本的分布。如果数据有趋势或季节性，验证集的数值范围和训练集不同，评估指标变差是合理的。解决：不要追求验证集指标越低越好，而是确认训练集和验证集的指标差异在可接受范围（一般2倍以内）。如果差异超过3倍，说明数据存在明显的概念漂移，建议缩短训练窗口周期性地重训模型。
6. 进阶：从单步预测到多步预测的三个可行方向
第一个方向是迭代预测，第4.3节的rolling_forecast就是这种。它最省事，模型结构不用改，但第5.4节的误差累积问题无法避免。第二个方向是直接多步输出，把模型的输出层改成多个神经元，直接预测未来N个时间步。实现上只需要把训练数据的y从(样本数, 1)改成(样本数, horizon)，模型最后一层的Dense(horizon)即可。这个方案避免了误差累积，但要求模型一次性预测出未来一段窗口，对数据量的需求更高。第三个方向是序列到序列结构，用Encoder-Decoder的LSTM，适合预测长度较长且需要输出完整序列的场景。
我实际项目中用的比较多的是直接多步输出的变体，因为它的训练最稳定，而且可以把MLP回归头的输出设计成多目标——比如同时预测未来7天的均值、最大值和最小值，给业务方一个预测区间，而不是单点值。验证方法上，我习惯做滚动回溯测试（backtesting）：从历史数据的每个时间点开始，重新训练模型并预测未来N步，计算所有预测误差的分布。这比单独跑一次训练验证更能反映模型在实际业务中的表现。
很多人问LSTM-MLP和纯Transformer比谁更好用。从我的经验看，数据量在几万条以内时，LSTM-MLP的训练速度更快、超参数更少、可解释性更好；只有当你拥有百万级时序数据且需要捕捉超长距离依赖时，Transformer才有明显优势。先把LSTM-MLP跑通、评估指标建好、避坑规则内化成习惯，再往更复杂的架构迁移，是投入产出比最高的路径。希望这些踩过的坑和验证方法能帮到你——至少让你少走我当年走过的弯路。
本文还有配套的精品资源，点击获取
