基于PyTorch的软PINN求解二维对流传热温度场实现与调参指南

前段时间一直在折腾物理信息神经网络（PINN）在传热问题里的实际落地。手头有个场景是两块平行平板之间的二维稳态对流传热，要预测温度场。传统做法是画网格跑CFD，但临时搭个求解器实在费劲，于是我从零用Python和PyTorch写了一个软PINN（soft PINN）来解这个二维稳态对流传热方程。所谓软PINN，简单说就是把控制方程残差和边界条件当作软约束，加权塞进损失函数里，让神经网络在拟合数据的同时也遵守物理规律。整个过程踩了不少坑：损失项互相打架、自动微分得到nan、边界角点残差降不下去……这篇文章把我最终跑通的实现思路、完整代码和调参经验全部分享出来，适合那些不想被有限元网格折磨、想快速拿一个温度场参考解的工程师，也适合刚接触PINN的研究者。文中的代码基本在CPU上就能跑通，不依赖高级显卡，重点在于理解软PINN训练的逻辑。

1. 为什么是软PINN：平板对流传热问题里的约束哲学

1.1 二维对流传热模拟中硬约束的局限性

传统PINN大致分成两种角色：硬约束和软约束。硬PINN会通过修改网络输出结构，把边界条件直接嵌入到预测值中，比如用一个距离函数乘以网络输出，再加上边界温度，从而保证边界条件自动满足。听起来很完美，但在平板间对流传热这样的问题里，边界不会是单纯的一条直线：入口、出口、上下壁面，有Dirichlet边界也有Neumann边界。特别是出口的∂T/∂x=0，要构造距离函数并保证法向导数恒成立非常麻烦。更致命的是，多层网络的梯度在乘以距离函数后会被严重削弱，导致内部区域更新缓慢，整体收敛变差。我在早期尝试硬PINN时，对这一点体会极深。

1.2 软约束的本质：把物理方程变成一项损失

软PINN的思路则更简单粗暴：把控制方程残差r(x,y)变成损失项，把边界残差也变成损失项，训练过程就是让这两组残差同时下降。损失函数写成：

L = L_pde + λ_bc * L_bc

其中L_pde是计算域内部配点上控制方程残差的均方误差，L_bc是边界条件残差。你可以随时在损失里添加数据项、界面连续性项，而不用去改网络结构。对于本文这种边界不算极端复杂、但又要处理混合边界条件的场景，软PINN是更省事的选择。当然省事的代价是损失中各项权重需要调，否则很容易出现“PDE学得很好但边界一塌糊涂”的尴尬局面。后面我会单独用一个小节来聊权重问题。

1.3 什么情况下我会建议你优先用软PINN

根据我的实践，以下情况优先考虑软PINN。第一，边界条件比较复杂，混合了Dirichlet、Neumann甚至Robin条件；第二，你需要在现有模型上快速扩展参数反演，比如反推热流密度或换热系数；第三，作为教学或验证手段，想快速看到PINN的训练过程。反过来，如果计算域非常简单，比如矩形域，且边界条件全是Dirichlet，那硬PINN会更稳，毕竟它从结构上保证边界精确满足。本文最终用软PINN，还有一个教学上的理由：软约束的训练过程更容易观察损失分量变化，帮助你理解PINN为什么能收敛，又为什么可能不收敛。

2. 二维稳态对流传热方程：控制方程与无量纲化

2.1 从能量守恒到对流-扩散方程

在二维稳态不可压缩流体中，温度场T(x,y)满足能量守恒方程。忽略粘性耗散、体积力和辐射，温度由对流与扩散共同决定：

ρ c_p (u ∂T/∂x + v ∂T/∂y) = k (∂²T/∂x² + ∂²T/∂y²)

其中ρ是流体密度，c_p是比热容，k是导热系数，u和v是速度场分量。引入热扩散率α = k/(ρ c_p)，方程简化为：

u ∂T/∂x + v ∂T/∂y = α (∂²T/∂x² + ∂²T/∂y²)

如果速度场本身也需要求解，那就要耦合动量方程。本文直接给定流速分布，只关心温度场，这是典型的“已知流场求温度”的简化。工程上很多换热器初步估算都走这条路。

2.2 无量纲化：PINN训练的第一步，也是最容易被跳过的一步

很多初学者直接把物理量塞进网络，结果训练老不稳定。原因很简单：长度用米，温度用摄氏度，速度用米每秒，这些数值量级从10⁻⁵到10²不等，神经网络的权重初始化和梯度更新很难同时适配这么宽的取值范围。解决办法就是无量纲化。

取参考长度L_ref、参考速度U_ref、参考温差ΔT，定义：

x' = x / L_ref, y' = y / L_ref, θ = (T - T_cold) / (T_hot - T_cold), u' = u / U_ref, v' = v / U_ref

代入方程后得到无量纲形式：

u' ∂θ/∂x' + v' ∂θ/∂y' = (1/Pe) (∂²θ/∂x'² + ∂²θ/∂y'²)

其中Péclet数 Pe = U_ref * L_ref / α，它表征对流输运与扩散输运的相对大小。Pe越大，对流越强，方程越接近一阶双曲型，对PINN来说也越难训练，这就是为什么很多对流传热PINN案例喜欢从低Pe开始。本文算例取L_ref=0.1m，U_ref=0.01m/s，α=2.0×10⁻⁵ m²/s，则Pe = 0.01×0.1 / 2e-5 = 50，属于对流主导但还没到极度刚硬的程度，适合用来展示软PINN的能力边界。

2.3 边界条件的无量纲化与软约束展开

算例几何是两块平行平板之间的矩形区域：入口在左侧，出口在右侧，上下为恒温壁面。无量纲边界条件为：

• 入口 x'=0，θ=1（Dirichlet）
• 出口 x'=1，∂θ/∂x' = 0（Neumann）
• 上下壁面 y'=0 或 y'=0.5，θ=0（Dirichlet）

这里有个细节：上下壁面的无量纲y'范围取决于几何。假设平板间距0.05m，则y'_max = 0.05/0.1 = 0.5。所有坐标都落到[0,1]×[0,0.5]这个矩形里。如果不做归一化，网络输入x范围是[0,1]，y范围是[0,0.5]，虽然差异不算太大，但为了后续同时处理多种几何，统一归一化到[0,1]会更好。我在代码里会把y坐标除以最大y，让域变成单位正方形，两条边的长度尺度就一致了。这一点看似简单，实际对训练稳定性影响很大。

3. 软PINN的PyTorch网络设计与损失函数构造

3.1 网络结构：一个带Tanh隐藏层的MLP

选择网络结构时，不要一上来就堆大模型。针对二维二阶PDE，一个3到5层的全连接网络足够。激活函数我第一个选的是Tanh，而不是ReLU。原因是ReLU的一阶导数是阶跃函数，二阶导数处处为零，而损失函数里需要求温度的拉普拉斯算子∂²θ/∂x²，如果激活函数是ReLU，网络的二阶导数会被直接截断成零，PDE残差项的信息全部丢失，训练会变成“只有对流项在起作用”。用Tanh或Swish能保证一阶导、二阶导都有连续的非零梯度。以下是我用的网络结构：

import torch import torch.nn as nn class SoftPINN(nn.Module): def __init__(self, in_dim=2, hidden_dim=64, out_dim=1): super().__init__() self.net = nn.Sequential( nn.Linear(in_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, out_dim) ) # 用Xavier初始化，减轻梯度消失 for layer in self.net: if isinstance(layer, nn.Linear): nn.init.xavier_uniform_(layer.weight) nn.init.zeros_(layer.bias) def forward(self, x, y): coords = torch.cat([x, y], dim=-1) return self.net(coords)

这里每层64个神经元、4个隐藏层，是为了平衡二阶导计算带来的算力开销。你可以试试更宽的层，但训练时间会显著上升。初始化用Xavier是因为它适配Tanh这类sigmoid型激活函数，让激活值在训练初期保持合理范围。

3.2 自动微分：用torch.autograd.grad求偏导数

PINN之所以强大，是因为神经网络的导数可以用自动微分精确求出，而不是像有限差分那样有截断误差。在PyTorch里，我们对网络输出θ分别求∂θ/∂x、∂θ/∂y，再求二阶导，需要用到create_graph=True：

def compute_pde_residual(model, x, y, u, v, alpha): """ x,y: 内部配点，形状 [N,1] u,v: 速度场在对应点的值，这里假设恒定速度 alpha: 热扩散系数 """ x.requires_grad_(True) y.requires_grad_(True) theta = model(x, y) # 输出温度 theta_x = torch.autograd.grad(theta, x, grad_outputs=torch.ones_like(theta), create_graph=True, retain_graph=True)[0] theta_y = torch.autograd.grad(theta, y, grad_outputs=torch.ones_like(theta), create_graph=True, retain_graph=True)[0] theta_xx = torch.autograd.grad(theta_x, x, grad_outputs=torch.ones_like(theta_x), create_graph=True, retain_graph=True)[0] theta_yy = torch.autograd.grad(theta_y, y, grad_outputs=torch.ones_like(theta_y), create_graph=True, retain_graph=True)[0] # 无量纲方程：u * T_x + v * T_y = (1/Pe) (T_xx + T_yy) residual = u * theta_x + v * theta_y - alpha * (theta_xx + theta_yy) return residual

retain_graph=True必须加上，因为在同一张计算图里连续做了四次grad，如果不保留中间图的梯度，第二次grad可能会报错。这是初学者最容易踩的坑。

3.3 损失函数：三路并进，权重要有策略

软PINN的损失函数由多个部分组成：

• PDE残差损失：L_pde = mean(‖r(x_i,y_i)‖²)
• 边界损失：Dirichlet边界用L_bc_dir = mean(‖θ - g‖²)，Neumann边界用mean(‖∂θ/∂n - g_n‖²)
• 可选的数据损失：L_data = mean(‖θ - θ_obs‖²)

组合时，建议先不要一开始就用自适应权重，而是固定简单权重，比如：

loss = pde_loss + 50.0 * bc_loss

这里边界权重取50，原因是在平板传热问题中，边界点数量通常远小于内部配点，且边界条件需要被相对严格地满足。实际训练中，你可以每隔500步打印一次各分量的量级，再酌情调整。后续的“调参坑”里我会展开一个更系统的统计方法。

4. 从零实现：软PINN求解平板间温度场的完整代码

4.1 环境准备与复现性设置

我的环境是Python 3.10 + PyTorch 2.1 + CPU训练，完全能跑通这个规模的问题。如果你用GPU，训练会快不少，但二阶自动微分带来的显存开销也不小，小显存的显卡未必比CPU舒服。建议先用CPU验证逻辑，再上GPU。

import torch import torch.nn as nn import numpy as np import matplotlib.pyplot as plt torch.manual_seed(42) np.random.seed(42)

4.2 数据生成：内部配点与边界采样

训练软PINN不需要“训练集标签”，只需要坐标点。域内随机采样产生内部点，边界用等间距或随机采样。这里的关键是角点处理：角点同时属于两条边界，如果你把角点同时算入两边的边界损失，会要求网络同时满足两个不同的值，比如入口θ=1和上壁θ=0，这会造成不可调和的冲突。我的做法是把角点从边界集合里剔除，让网络在角点附近用PDE残差自然过渡。

Nf = 10000 # 内部配点数量 Nb = 200 # 每条边采样点数量 x_min, x_max = 0.0, 1.0 y_min, y_max = 0.0, 0.5 # 内部点 x_f = torch.rand(Nf, 1) * (x_max - x_min) + x_min y_f = torch.rand(Nf, 1) * (y_max - y_min) + y_min # 边界点：分别采样入口、出口、上壁、下壁 x_in = torch.zeros(Nb, 1) y_in = torch.rand(Nb, 1) * (y_max - y_min) + y_min x_out = torch.ones(Nb, 1) y_out = torch.rand(Nb, 1) * (y_max - y_min) + y_min x_top = torch.rand(Nb, 1) * (x_max - x_min) + x_min y_top = torch.ones(Nb, 1) * y_max x_bottom = torch.rand(Nb, 1) * (x_max - x_min) + x_min y_bottom = torch.zeros(Nb, 1) x_bc = torch.cat([x_in, x_out, x_top, x_bottom], dim=0) y_bc = torch.cat([y_in, y_out, y_top, y_bottom], dim=0)

因为每条边是分开采样的，角点不会同时出现在同一边界集合里，所以边界点不会被入口和上壁的约束同时覆盖，这个冲突在数据层面就避开了。如果你把四条边直接拼接成一个集合，则必须做去重。

一个更省事的做法是：先构造一个只包含20个配点的粗算例，快速验证损失函数能降，确认无误后再放大到1万个配点。这能帮你省下大量调试时间。

4.3 训练主循环：Adam热启动，L-BFGS精调

我最终跑的循环是“Adam先走到一个比较平滑的loss平台，再切到L-BFGS精调”。Adam对不平衡的损失项容忍度高，适合前期把残差从O(1)压到O(0.01)；L-BFGS作为拟牛顿法，在接近最优解时能更精确地减少PDE残差，但对损失项量级更敏感。完整训练循环如下：

model = SoftPINN() optimizer_adam = torch.optim.Adam(model.parameters(), lr=1e-3) # 速度场恒定：u=0.3, v=0.0（无量纲化后） u = 0.3 v = 0.0 alpha = 1.0 / 50.0 pde_weight = 1.0 bc_weight = 50.0 def closure(): optimizer_adam.zero_grad() # PDE residual residual = compute_pde_residual(model, x_f, y_f, u, v, alpha) pde_loss = torch.mean(residual ** 2) # 边界损失 theta_in = model(x_in, y_in) bc_in = torch.mean((theta_in - 1.0) ** 2) theta_out = model(x_out, y_out) # 出口 Neumann: dT/dx=0，需要自动微分 theta_out_x = torch.autograd.grad(theta_out, x_out, grad_outputs=torch.ones_like(theta_out), create_graph=True)[0] bc_out = torch.mean(theta_out_x ** 2) theta_top = model(x_top, y_top) theta_bottom = model(x_bottom, y_bottom) bc_wall = torch.mean(theta_top ** 2) + torch.mean(theta_bottom ** 2) bc_loss = bc_in + bc_out + bc_wall loss = pde_weight * pde_loss + bc_weight * bc_loss loss.backward() return loss, pde_loss, bc_loss # Adam 阶段 for step in range(10000): loss, pde_loss, bc_loss = closure() optimizer_adam.step() if step % 1000 == 0: print(f"Adam step {step}: loss={loss.item():.4e}, pde={pde_loss.item():.4e}, bc={bc_loss.item():.4e}") # L-BFGS 精调阶段 optimizer_lbfgs = torch.optim.LBFGS(model.parameters(), lr=0.1, max_iter=500) def lbfgs_closure(): optimizer_lbfgs.zero_grad() loss, _, _ = closure() loss.backward() return loss optimizer_lbfgs.step(lbfgs_closure)

需要注意两点：一是Neumann边界上的自动微分必须带上create_graph=True，否则无法在二阶损失里继续回传；二是如果Adam训练到后期边界损失仍然降得慢，不要急着切L-BFGS，先回头调边界权重。L-BFGS对平坦区域改善明显，但无法解决权重失衡。

4.4 预测与可视化

训练完以后，在网格上生成预测温度场，并和边界条件一起画出来。可视化既是为了验收，也能帮你快速发现训练是否在某个角落“跑飞”了。

nx, ny = 100, 50 x_plot = torch.linspace(0, 1, nx) y_plot = torch.linspace(0, 0.5, ny) X, Y = torch.meshgrid(x_plot, y_plot, indexing='ij') X_flat = X.reshape(-1, 1) Y_flat = Y.reshape(-1, 1) with torch.no_grad(): T_flat = model(X_flat, Y_flat) T = T_flat.reshape(nx, ny).numpy() plt.figure(figsize=(8, 4)) plt.contourf(X.numpy(), Y.numpy(), T, levels=50, cmap='hot') plt.colorbar(label='theta') plt.xlabel('x') plt.ylabel('y') plt.title('Soft PINN predicted temperature field') plt.savefig('pinn_temperature_field.png', dpi=150)

如果这个温度场看起来平滑、入口扩散均匀、出口近似等温线垂直，说明训练基本成功。如果云图出现波纹或局部凸起，多半是配点太少或边界权重不足。

5. 我踩过的软PINN调参坑：逐条排查全记录

5.1 所有loss变成nan：先查输入范围，再查学习率

第一次跑训练，我遇到的是loss变成nan。第一反应是梯度爆炸，但我把学习率降到1e-5还是nan。后来查了输入数据，发现y坐标用的是物理尺寸0.05，而x坐标用归一化后的1，两者差20倍。网络一开始面对这种尺度失衡，梯度方向被y方向主导，权重更新很快就溢出。这个问题在把y也归一化到0~1后就消失了。所以第一优先级永远是把输入坐标归一化，而不是去调学习率。

5.2 PDE loss降得到底但边界凸不起来：权重比例失衡

典型现象是训练日志里pde_loss已经掉到1e-5，但bc_loss还在0.1量级。我看输出温度场时，发现入口边界附近温度居然从1变成了0.8，明显是边界条件没学好。为什么会这样？因为内部配点有10000个，边界点一共只有800个，如果统一权重，PDE残差对总loss的贡献天然比边界的贡献大，网络自然优先满足内部方程。解决办法不是直接疯狂加大边界权重，而是先统计各项的量级。我在每次迭代时打印：

print(f"pde_loss={pde_loss.item():.3e}, bc_loss={bc_loss.item():.3e}")

然后把边界权重调到能让两项在训练后期处于同一数量级。我的经验是，在本文算例里bc_weight设成50~100比较合适。边界权重过大会导致边界点学习了，但内部区域被边缘点的强约束“拉出”不符合PDE的解，所以也不要一味地调大。

5.3 出口Neumann边界不消失：梯度成了“摆设”

出口∂θ/∂x=0这个边界条件，我一开始直接用网络对x的导数当损失，但发现训练结束后出口附近仍然有明显梯度。原因在于出口边界上的点只参与边界损失，但出口附近内部区域的配点没有显式地要求温度“平直”，网络在高阶导上找到的解依然是光滑的，并不会天然满足∂θ/∂x=0。后来我在出口区域增加了“缓冲区”配点，即离出口很近的内部点也额外加权PDE残差，相当于把Neumann条件沿上游方向传播了一点。这个方法很土但有效。你也可以在边界损失里用一阶导匹配代替零梯度，或者提高出口边界点的数量。

5.4 角点处残差永远降不下去：接受它，别较劲

这是软PINN的固有问题。入口和上壁的交点处，一边要求θ=1，另一边要求θ=0，无论怎么调权重，网络只能折中成0.5左右。这是数学上不可调和的不连续点。我一开始拼命加角点附近的配点，结果只是让角点产生尖锐但陡峭的过渡，整体误差反而变大。后来我接受这个事实，训练时把角点从边界集合剔除，让角点附近的解由内点PDE残差和附近边界点共同决定，整体误差反而更小。如果你想严格满足角点连续性，需要先对问题做角点奇异性处理，那就不是软PINN一个模型能解决的了。

5.5 训练时间过长：合理裁剪算力

二阶自动微分是算力大头。同样10000个配点，一次backward要计算四个一阶导数、两个二阶导数，计算量比普通分类网络大好几个量级。我实测用CPU训练，10000步Adam加500步L-BFGS，大概花了一夜。如果想快速验证，我建议把配点降到3000，隐藏层宽度降到32，Adam训5000步，十几分钟就能看到整体趋势。等趋势对了再跑正式版本。这个“先用小模型验证、再上大模型”的习惯，能帮你节省大量等待时间。

5.6 用解析解或高精度数值解做交叉验证

软PINN调参是不是成功了，不能只看loss曲线。我会额外构造一个简单场景：令Pe很小，例如Pe=0.1，方程退化为纯扩散问题，此时平板间稳态温度分布有解析解。把软PINN预测的等温线和解析解叠在一起，计算整体相对L2误差，如果小于5%，说明训练和代码实现基本正确。这个交叉验证步骤非常重要，它能把“loss在下降”和“物理对了”两件事分开。为了更快定位问题，我把常见的现象和对策整理成了一张速查表：

6. 下一步扩展：软PINN还能怎么玩出新东西

6.1 往瞬态传热扩展：把时间当成第三个坐标

平板传热如果做非稳态，只需把网络输入从(x,y)变成(x,y,t)，控制方程加上∂θ/∂t项，损失函数里多一个初始条件约束。采样时，内部配点从二维平面变成三维时空区域[0,1]×[0,0.5]×[0,t_max]，其他逻辑完全不变。我试过类似问题，瞬态任务的难度主要在初始条件与边界条件在t=0时刻的兼容。如果初始温度跳变剧烈，也会出现类似角点残差的问题，处理思路同样是先让初始条件软约束主导，再让PDE项逐步接管。

6.2 反问题：根据稀疏温度测量反推边界热流

软PINN的一个天然优势是容易处理反问题。假如你在实验室测了少量点的温度，想把入口温度或壁面热流反推出来，那么只需要把未知参数，例如入口温度T_in，定义成nn.Parameter，在损失函数里加一项数据拟合损失：

T_in = nn.Parameter(torch.tensor(1.0))

然后训练时同时更新网络权重和T_in，反演就完成了。这个思路能扩展到反推换热系数、热源强度等多个参数，是很多工程检测场景的刚需。我之前在一个小项目里用反向PINN同时反推两个边界热流，效果比传统的优化迭代好很多，几乎不用手动设置初值。

6.3 区域分解和自适应配点：进阶的“大力出奇迹”

当计算域变大、对流变强，单一网络会很吃力。可以考虑把计算域切成几个子区域，每个子区域用一个子网络，子网络之间通过内部界面上的温度连续性和热流连续性耦合。这有点像“神经有限元”，但实现复杂度高出不少。对我来说，最实用的技巧还是自适应配点：训练到一半，把当前PDE残差大的地方多采点样，重新构成配点集合继续训练。这相当于把网格加密的精神引入PINN，效果好，实现也不难：

with torch.no_grad(): residual = compute_pde_residual(model, x_f, y_f, u, v, alpha) _, indices = torch.topk(residual.abs().flatten(), k=Nf // 5) new_points = torch.stack([x_f[indices], y_f[indices]], dim=-1)

把这些高残差点的坐标补充进原有配点集，然后按更小的学习率继续训练几轮，通常能把局部尖峰压下去。

最后再分享一点个人体会。软PINN这个东西，表面上是“改一下损失函数”，实际操作起来却有大量细节：坐标归一化、边界权重、角点冲突、二阶导计算、训练策略……每一步都可能把训练带偏。我的建议是：先跑通小规模算例，打印各项损失分量的趋势，再用解析解或高精度数值解做交叉验证。当你看到自己的软PINN在torch里一点点把温度场从噪声中“雕刻”出来时，那种感觉比单纯调出一个更低loss爽得多。如果你也是刚接触物理信息神经网络，希望这篇记录能让你少走几个弯路。