物理信息神经网络PINN：将物理规律嵌入深度学习的偏微分方程求解实战

写这个系列到现在，这是第九篇了。前面八篇我们干了不少事，从Python基础语法一路走到PyTorch模型训练，把图像分类、目标检测这类常规任务都跑了一遍。但说实话，如果你真是搞物理研究的，前面那些内容只能算热身。物理场景里的深度学习，跟打比赛、做图像识别完全是两码事：数据量少得可怜，噪声还特别不守规矩，最要命的是——物理学家不可能接受一个纯黑箱模型，你让网络猜一个结果出来，却不告诉它这个结果满不满足支配方程，这在物理研究里根本没法用。

这篇我就换一个视角，专门聊聊怎么把深度学习用在物理研究一线。我会从物理任务和常规AI任务的本质差异讲起，然后介绍这条路线里最核心的一个思路——把物理规律直接写进神经网络，再带大家完整跑一个用神经网络求解偏微分方程的小项目。这篇文章适合那些已经掌握Python和深度学习基础、正打算把手里的物理数据或物理方程交给神经网络的人，哪怕你还没开始，跟着操作一遍也会对"AI for Science"这个方向有个很实在的认知。

1. 物理研究需要什么样的深度学习

1.1 物理场景与常规AI场景的三个本质差异

先别急着上代码，得把思想对齐了再动手。物理研究里用深度学习，跟工业界做推荐系统、跟Kaggle上做图像分类，至少有三个本质差异。

第一个差异是数据量。图像识别动辄几万、几十万张图片，还是带标签的。物理实验数据完全不是这个画风——高能对撞机跑几个月收集到的事件，能用的可能就几千个；天文观测里某个罕见爆发天体的光谱，可能全人类就记录过几十条。你没法靠堆数据让网络自己悟出规律，得想办法在数据不充裕的条件下让模型还能学到真正的物理。

第二个差异是噪声分布。相机图片的噪声基本符合高斯分布，丢进网络里让它自己学就行。物理探测器出来的数据不是这样，探测器响应有厚尾噪声，有系统误差，还有各种前来捣乱的背景事件。拿粒子物理里面的喷注分类来说，信号事件和本底事件在外观上可能只差几个像素的分布，常规CNN在干净图片上那套操作，搬到探测器数据上经常失灵。

第三个差异，也是最要命的一个——可解释性。银行用AI判断贷款，判断错了顶多赔钱；物理研究里网络给了一个预测，你得拿它去写论文、去指导下一轮实验，那你必须知道它到底抓住了什么规律。一个纯粹的黑箱模型输出一个数字，物理学家是没有办法信任的。所以物理场景里的深度学习，从一开始就要把"可解释"当成硬指标，而不是加分项。

正因为这三个差异，物理研究里的深度学习不能照搬常规套路。这也是为什么最近这几年，"物理驱动"的思路慢慢压过了"数据驱动"。

1.2 从"数据驱动"到"物理驱动"的范式转变

数据驱动的方法，默认的逻辑是：只要你给的数据够多、够干净，网络就能自动学到输入输出之间的映射。这个逻辑在图像识别上被验证过无数次，确实好用。但在物理上，它有几个绕不过去的坎。

一是数据不够，二是网络学到的映射未必符合物理定律。举个很简单的例子，你用神经网络去拟合一个自由落体的轨迹。数据给的有限，网络确实能把扔出去的几个点拟合得很漂亮，但它可能学出一个完全不合物理的映射——比如时间变量t和位置x之间的某个函数关系，在小范围内拟合得很好，一旦外推到训练区间之外，立刻发散成不可理喻的东西。原因很简单：网络只看到了数据，不知道背后还有一条"F=ma"在那儿管着。

物理驱动的思路就不一样了。它默认的一个前提是：物理规律本身是压缩了很多信息的高价值先验，完全可以写进神经网络里。怎么做？最直接的办法就是把物理方程加到损失函数里，让网络在优化的时候同时满足两件事——跟观测数据对得上，跟支配方程也对得上。这就是这几年引爆AI for Science的物理信息神经网络（PINN）的核心逻辑。

这个转变到底意味着什么？你不再把神经网络当成一个只会拟合函数的东西，而是把它当成一个"受物理规律约束的函数逼近器"。网络学到的解，天然满足守恒律、波动方程、扩散方程这些底层规则，哪怕训练数据很少，它也能给出物理上自洽的预测。实践下来我的体会是：物理先验往往比网络规模和训练数据更重要，这个放在后面实战部分你会看得更清楚。

2. 环境与工具链准备

2.1 科学计算栈的取舍

决定走物理研究这条路之后，第一件事就是选工具。PyTorch、TensorFlow、JAX这三个主流框架，这几年在科研社区里的地位变化很明显。

PyTorch现在基本是科学计算+深度学习的默认选择了。它的动态计算图让调试非常舒服，你在训练循环里想打印中间变量就打印，想加个断点就加，不用像静态图那样先构建后执行。而且物理研究里经常要自己定义损失函数、自己改训练逻辑，动态图优势巨大。TensorFlow也不是不行，尤其是它在部署生态上更成熟，但科研场景里PyTorch的社区资源和论文代码复现都占优，你找一个PINN的参考实现，十有八九是PyTorch写的。

JAX是这几年冒出来的一个新选择。它的函数式编程风格对某些做微分方程、做哈密顿动力学的场景非常友好，特别是jit编译和自动向量化，跑起来确实快。但它的学习曲线比PyTorch陡，调试报错也比较折磨人。我的建议是：如果你是第一次接触物理+深度学习的组合，别折腾，直接用PyTorch起步。等以后遇到性能瓶颈了，再回头研究JAX不迟。

除了深度学习框架，物理研究还离不开另一层科学计算工具。NumPy和SciPy是标配，做数值微积分、线性代数、插值拟合都靠它们。如果你要解偏微分方程的参考解，可以考虑装FEniCS或者DeepXDE这样的专业库——DeepXDE本身就是一个封装了PINN的库，做物理信息神经网络用它起步很省事。不过我这篇文章会带你从零手写一个PINN，因为只有自己写一遍，你才能真正理解损失函数里那些物理残差项到底在干什么。

2.2 从零搭建一个可复现的物理深度学习环境

环境搭建这块，前期踩过的坑是真不少。我现在的习惯是，每个项目都开一个独立的conda环境，绝不在基础环境里乱装包。原因很简单：物理研究项目常常要对环境做微调，比如换一个PyTorch版本、加一个特定的数值库，如果全堆在一起，很快就会依赖冲突。

给你一份我常用的环境搭建命令，直接在终端执行就行：

conda create -n physics-dl python=3.10 conda activate physics-dl pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 pip install numpy scipy matplotlib jupyter tqdm pip install deepxde # 可选，如果不想手写PINN

这里有个关键点：PyTorch的CUDA版本必须跟你的显卡驱动匹配。装之前先跑一句nvidia-smi看看自己的CUDA版本，再对着PyTorch官网选择对应的安装命令。你要是硬装一个不匹配的版本，轻则用不了GPU，重则程序直接崩。

CPU能不能跑？大部分物理研究的深度学习任务，尤其我们后面要做的PINN，网络规模都很小，CPU完全够跑。我自己早期调试PINN的时候，就是用MacBook的CPU跑的，一个几百参数的小网络，训练几分钟就能出结果。所以别一上来就纠结有没有GPU，先把代码跑通，再去想加速的事。

最后一个建议：每次跑通一个实验，记得导出环境配置。pip freeze > requirements.txt一句命令的事，但能让你三个月后回头复现结果时少掉一大半头发。做物理研究，可复现性是命根子，代码背后顶着的是论文结论，出不得岔子。

3. 核心方法与实践：把物理规律写进神经网络

3.1 物理信息神经网络（PINN）的思路与损失函数设计

PINN这个名字听起来高大上，拆开看思路其实很朴素：既然神经网络是一个万能函数逼近器，那我们就让它去逼近物理方程的解，同时用物理方程本身来监督它。

拿一个抽象的例子来说。假设我们要解某个区域内的偏微分方程，它的解是一个函数u，满足某个支配方程。常规数值方法（有限差分、有限元）是把这个区域划分成网格，然后在离散格点上解方程。PINN的做法完全不同——它不管网格，直接让神经网络去输出任意一点的u值，然后通过自动微分把u对各个自变量的偏导数算出来，代入支配方程，计算残差。如果残差是零，说明这个网络输出的函数就是方程的解；如果不是，就把残差当作损失，反向传播去更新网络参数。

这个过程中，物理规律被编码在损失函数里。很多初学者上手PINN时会犯一个错误：觉得损失函数只有一个物理残差项就够了。实际上一个完整的PINN损失函数至少包含三块：

三块同时优化，网络才能真正学到既符合物理、又符合观测的解。

下面是一个标准PINN损失函数的PyTorch伪代码，帮助你把概念落到代码层面：

def compute_loss(model, x_data, u_data, x_pde, t_pde, x_bc, u_bc): # 数据损失 u_pred = model(x_data) loss_data = torch.mean((u_pred - u_data) ** 2) # 物理残差损失：通过自动微分计算导数 x_pde.requires_grad = True t_pde.requires_grad = True u_pde = model(torch.cat([x_pde, t_pde], dim=1)) u_t = torch.autograd.grad(u_pde, t_pde, grad_outputs=torch.ones_like(u_pde), create_graph=True)[0] u_x = torch.autograd.grad(u_pde, x_pde, grad_outputs=torch.ones_like(u_pde), create_graph=True)[0] u_xx = torch.autograd.grad(u_x, x_pde, grad_outputs=torch.ones_like(u_x), create_graph=True)[0] f_residual = u_t - alpha * u_xx loss_pde = torch.mean(f_residual ** 2) # 边界条件损失 u_bc_pred = model(x_bc) loss_bc = torch.mean((u_bc_pred - u_bc) ** 2) return loss_data + loss_pde + loss_bc

那段自动微分的代码是PINN的核心所在。torch.autograd.grad计算的是网络输出对输入变量的导数，因为create_graph=True，这个导数本身还会被继续求导，所以二阶导数（u_xx）也能算出来。你不需要手动推导方程里那些导数项的离散近似，自动微分直接给精确值。

3.2 用CNN处理探测器数据：从信号到物理重建

PINN处理的是方程求解问题，但物理研究里还有一大类任务是数据处理——探测器数据分类、事件筛选、信号重建。这类任务用到的还是我们熟悉的卷积神经网络（CNN），只不过要针对物理数据的特点做一些改造。

先说最经典的一个应用：粒子物理中的喷注分类。在高能对撞机实验里，物理学家关心的核心问题是"有没有产生希格斯玻色子"或者"有没有超出标准模型的新物理"。探测器记录下来的原始数据是一堆能量沉积点，分布在不同位置。常规做法是先把这些能量沉积映射到一个二维图像上，横纵坐标代表探测器的角度方向，颜色深浅代表能量大小，这样一来，一个物理事件就变成了一张"图片"。CNN在这个图片上做分类，区分"信号事件"和"本底事件"，就是标准的图像分类思路。

但物理数据和自然图像有一个重要区别：信号和本底之间的差别往往非常细微。有时候只是图像几个像素区域的分布形状有一点偏移，人眼根本看不出来。这时候常规CNN容易过拟合。我的实践经验是，把物理信息作为一种诱导偏置塞进网络结构，效果比单纯加大网络好得多。比如在处理动量相关特征时，把已知的运动学约束直接加在网络的某一层上，或者用物理量作为额外的输入通道，比让网络自己想象好使。

一个具体的做法是：在CNN后面并联一个物理特征分支，输入喷注的质量、横动量这类物理量，再把两个分支的特征拼起来做分类。这样网络既看到了图像级的信息，也拿到了物理学家几十年来总结出来的鉴别变量，分类性能会有显著提升。说白了，物理先验在CNN里不是用来替换网络的，而是用来给网络搭脚手架的。

3.3 正则化与过拟合：物理数据少怎么办

上一步我们用CNN处理探测器数据，数据少的问题马上就会暴露出来。几千个训练样本去训练一个深度CNN，结果是什么？训练损失降到零，验证集上惨不忍睹——经典的过拟合。

对付物理小样本过拟合，第一招就是L2正则化。PyTorch里实现L2正则化其实不用你手动改损失函数，直接在优化器里加一个weight_decay参数就行：

optimizer = torch.optim.Adam(model.parameters(), lr=1e-3, weight_decay=1e-4)

这个weight_decay=1e-4就是在梯度更新的时候，把权重的平方项也拉进惩罚里。权重的数值越大，惩罚越大，模型就被迫保持简单，不会为了拟合几十个样本就把决策边界画得弯弯曲曲的。

除了L2正则化，还有几招物理场景里特别管用的招数。一是早停法（early stopping），训练过程中每个epoch都看一眼验证集损失，一旦验证损失开始上升，马上停。二是Dropout，这个在图像任务里大家已经很熟了，但物理数据场景里要记住：Dropout要开在训练阶段，推理阶段会自动关闭，PyTorch里这一套是内置的，不用你操心。三是数据增强，物理数据也能增强，只是方法跟图像不一样——可以对样本加一个符合实验特征的噪声扰动，或者做平移、旋转这类在物理上合理的变换，千万不要做那种物理上无意义的增强，比如把能量值随便乘以一个随机数，那学出来的东西就是错的。

再补一句：L2正则化在PINN里更关键。很多PINN求解过程中出现的数值不稳定问题，罪魁祸首就是权重越来越大、网络输出震荡。给PINN的训练加上合适的权衰减，经常能让原本发散的训练稳定下来。

4. 实战：用PINN求解一维热传导方程

4.1 问题定义与采样策略

理论铺垫到位了，我们来跑一个完整的小项目。选一个既有代表性、又不至于复杂到让人放弃的例子：一维热传导方程。

物理背景：一根长度为L的细杆，初始时刻中间区域温度是1，两边是0，然后热量开始传导。我们要求出杆上每个位置、每个时刻的温度分布u(x,t)。

支配方程是：

u_t = a * u_xx

其中a是热扩散系数，这里取a=0.1，x的取值范围是[0, 1]，t的取值范围是[0, 2]。

初始条件：

u(x, 0) = x在[0,1]之间的某个脉冲函数，比如u(x,0)=1(当0.4<x<0.6)，否则0

边界条件（两侧绝热）：

u(0, t) = 0，u(1, t) = 0

这个方程有解析解，可以用傅里叶级数展开得到，训练完我们直接跟解析解对比，就知道网络学得好不好。

采样策略是PINN落地时最容易出问题的环节。我的做法是生成三类样本点：内部点（在物理区域内部随机撒点）、初始条件点（在t=0这条线上撒点）、边界点（在x=0和x=1这两条边界上撒点）。批量大小可以选2000个残差点、100个初始条件点、100个边界点。注意一点：残差点的数量和初始边界点的数量要匹配好，边界和初始点数量太少，网络会完全无视定解条件。

4.2 完整代码实现与解析

直接贴一份可以在Jupyter里跑通的完整代码。网络用三层MLP，每层50个神经元，激活函数选tanh，中间细节我都会注释。

import torch import torch.nn as nn import numpy as np import matplotlib.pyplot as plt torch.manual_seed(42) np.random.seed(42) # 定义神经网络 class PINN(nn.Module): def __init__(self): super().__init__() self.net = nn.Sequential( nn.Linear(2, 50), nn.Tanh(), nn.Linear(50, 50), nn.Tanh(), nn.Linear(50, 50), nn.Tanh(), nn.Linear(50, 1) ) def forward(self, x, t): inputs = torch.cat([x, t], dim=1) return self.net(inputs) model = PINN() alpha = 0.1 # 生成训练数据：残差点、初始条件点、边界条件点 N_pde = 2000 N_ic = 100 N_bc = 100 # 内部残差点：在[0,1]x[0,2]区间均匀采样 x_pde = torch.rand(N_pde, 1) # 不需要requires_grad，我们在计算时重新设置 t_pde = torch.rand(N_pde, 1) * 2.0 # 初始条件点：t=0 x_ic = torch.rand(N_ic, 1) t_ic = torch.zeros(N_ic, 1) u_ic = ((x_ic > 0.4) & (x_ic < 0.6)).float() # 边界条件点：x=0和x=1 x_bc = torch.cat([torch.zeros(N_bc // 2, 1), torch.ones(N_bc - N_bc // 2, 1)], dim=0) t_bc = torch.rand(N_bc, 1) * 2.0 u_bc = torch.zeros(N_bc, 1) # 边界温度恒为0 # 把边界点按时间排序，方便之后画图 order = torch.argsort(t_bc, dim=0).squeeze() x_bc = x_bc[order] t_bc = t_bc[order] u_bc = u_bc[order] optimizer = torch.optim.Adam(model.parameters(), lr=1e-3) # 训练循环 epochs = 10000 for epoch in range(epochs): optimizer.zero_grad() # 需要计算导数的输入，设置requires_grad=True x_pde_var = x_pde.clone().requires_grad_(True) t_pde_var = t_pde.clone().requires_grad_(True) # 物理残差损失 u_pde = model(x_pde_var, t_pde_var) u_t = torch.autograd.grad(u_pde, t_pde_var, grad_outputs=torch.ones_like(u_pde), create_graph=True)[0] u_x = torch.autograd.grad(u_pde, x_pde_var, grad_outputs=torch.ones_like(u_pde), create_graph=True)[0] u_xx = torch.autograd.grad(u_x, x_pde_var, grad_outputs=torch.ones_like(u_x), create_graph=True)[0] f = u_t - alpha * u_xx loss_pde = torch.mean(f ** 2) # 初始条件损失 u_ic_pred = model(x_ic, t_ic) loss_ic = torch.mean((u_ic_pred - u_ic) ** 2) # 边界条件损失 u_bc_pred = model(x_bc, t_bc) loss_bc = torch.mean((u_bc_pred - u_bc) ** 2) # 总损失 loss = loss_pde + loss_ic + loss_bc loss.backward() optimizer.step() if epoch % 1000 == 0: print(f"Epoch {epoch}, Loss: {loss.item():.6f}, PDE: {loss_pde.item():.6f}, " f"IC: {loss_ic.item():.6f}, BC: {loss_bc.item():.6f}")

训练一万步，我自己机器（CPU）大概跑一分多钟。损失曲线会稳步下降，从最初的10^-1量级慢慢降到10^-5以下。

4.3 训练稳定性的调参经验

这段代码看起来很简单，但真跑起来你会遇到不少坑，我直接把经验写在这，帮你提前避掉。

第一个坑是残差点的更新问题。你可能注意到我在每个epoch里用了clone().requires_grad_(True)，这是因为每次前向计算都需要重新对输入设置梯度记录。很多初学者图省事，在一开始就设置requires_grad=True，结果训练过程中这个张量的梯度一直累积，不光内存爆掉，求导结果也乱掉。正确的做法是每次都用clone生成新的变量。

第二个坑是权重初始化和激活函数选择。PINN里面我强烈建议用tanh作为激活函数，别用ReLU。ReLU的输出在x大于零之后导数恒为1，但在二阶导上几乎全是零。我们要求方程里含二阶导数u_xx，ReLU给的二阶导基本都是0，物理残差根本学不了。tanh是平滑函数，二阶导存在而且不会频繁归零，做PINN稳定得多。

第三个坑是各项损失的量级匹配。物理残差的量级、初始条件损失的量级、边界条件损失的量级经常差好几个数量级。如果边界损失是10^-3量级，而物理残差是10^-7量级，网络优化时会完全忽略边界条件，最后画出来的解就是发散的。我常用的办法是给损失加权重系数，比如把边界条件的权重设为10或者100，把物理残差的权重设为1，量级对齐了训练才稳。后面你自己做别的方程时，这一步几乎是必调的。

调参这事没有银弹，但有一个非常实用的判断方法：训练完之后，不要只看总损失大小。你把网络输出的u(net)画出来，跟采样点的数值对比一下，再单独计算一下物理残差在空间上的分布。如果残差大块地集中在某个角落，说明那个角落的采样点不够或权重不对，去补点、调权重，比盲目增加网络层数有效得多。

5. 常见问题与排查技巧实录

5.1 损失不下降或持续发散

这个现象我见过太多次了，尤其是刚上手PINN的人。先检查一个最容易犯的错：输入变量的量纲和量级。物理量往往自带单位，压力可能是10^5帕斯卡，温度可能是10^3开尔文，你要是直接把原始数值喂给网络，不同特征的数值尺度差好几个数量级，网络根本优化不动。解决办法是归一化：把x、t、u全都变换到[-1, 1]或者[0, 1]区间内。有了这个操作，Adam优化器默认的学习率才能正常工作，损失曲线才会平稳下降。

如果归一化之后损失还在震荡，就要考虑学习率是不是太大了。PINN跟图像分类不一样，它的损失曲面有很多陡峭区域，学习率稍大一点就容易越过盆地进入发散区。我通常从1e-3开始，如果前几百步就出现NaN，立刻降到1e-4，再不行就1e-5，同时配合梯度裁剪：

torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=1.0)

这句代码放在optimizer.step()之前，能把梯度的模限制在1.0以内，很大程度避免训练崩溃。

5.2 物理约束失效的排查思路

训练结束之后，网络的总损失很低，但画出来的解一看就是错的——这是PINN最迷惑人的场景。原因通常是三个：定解条件权重太低、采样点分布不合理、或者网络容量不够。

我建议你训练完之后多做一步，单独把三部分损失拆开打印出来，或者做个表格：

如果解在边界上振荡得厉害，通常意味着边界条件在损失里的比重不够，网络牺牲边界条件去压低物理残差。把边界条件损失的权重从1提到10，再训练五百步，振荡往往就消掉了。

5.3 数据不足与算力受限时的实用策略

最后聊一个现实问题：物理研究的算力和数据往往都紧张，怎么办。

先说算力。PINN的模型规模很小，几千个参数、几万步训练，CPU完全跑得动。如果你的问题模型比较大（比如三维流体、多物理场耦合），再考虑GPU。真要用GPU，先看看torch.cuda.is_available()是不是True，别装了一堆CUDA库却发现PyTorch根本没识别到显卡，这是最常见的环境坑。

数据不足的应对思路更有意思。物理研究里经常出现"实验数据很珍贵但模拟数据可以无限生成"的情况。这时候迁移学习非常好用：先在模拟数据上把网络预训练到收敛，再用实验数据微调。模拟出的数据再多也没有成本，实验数据只用几百条就能把网络从"模拟世界"拉回"真实世界"。另一个思路是用物理约束补数据的空档——就像前面PIDN式的方法里那样，数据少的时候物理残差自然顶上来，网络也不会完全失去监督。

还有一个经常被忽视的方向：主动学习。网络训练到一定程度后，它会对自己不确定的区域给出很高的预测方差。把方差大的区域挑出来，有针对性地补充观测样本，比均匀撒网高效得多。做实验物理的朋友可以把这个当做一个低成本提高模型性能的手段。

6. 结尾

对我来说，把这个系列写到第九篇，最想传递的一个体会是：物理研究里的深度学习，真正的价值不在于把网络做得更大、更花哨，而在于把人类对物理规律的理解跟网络的拟合能力拧成一股绳。

我在这条路上踩过不少坑，最深刻的一次是刚开始用PINN解一个流体问题。当时盲目加大了网络层数，训练到半夜，损失漂亮得不行，结果画出来的流场跟直觉完全相悖。后来老老实实把物理约束权重调大、把采样点加密、把激活函数换成tanh，才得到一个真正符合连续方程的解。那之后我写东西，只要涉及物理数据或物理方程，就把"物理先验优先"四个字贴在屏幕上。

如果你正准备把深度学习用到你自己那摊物理研究里，我的建议很简单：从最简单的方程开始，不要一上来就挑战多相流。先把一维热传导、二维泊松方程这类带解析解的问题跑通，一遍一遍画出网络解和解析解的对比图，把PINN的手感养出来，再往真实问题上走。做物理这行的人，本来就习惯先把最简单的理想模型吃透，再一步步加复杂度。这条路在AI for Science里同样适用。