半个月前一个朋友问我我按教程训练了一个神经网络来预测管道温度场验证集误差不到1%可放到CFD软件里一比对温度分布完全不合物理。这个场景我太熟了——数据驱动的神经网络学到的只是采样区域里的插值函数控制方程对它来说是完全未知的东西。那时候我第一次认真给朋友推荐了物理神经网络PINN也顺手用了Deepseek来辅助把偏微分方程翻译成可训练的代码。今天这篇博文就把从零理解PINN、推导损失函数、写出第一个能跑的代码再到踩坑调参的完整过程写出来给打算入门物理信息神经网络的朋友做个参考。内容主要面向有基础的Python和神经网络概念、但没接触过偏微分方程约束训练的读者如果你是做CFD、传热、固体力学相关的工程师这篇文章值得看完。1. PINN到底在解决什么问题数据驱动之外的另一条路1.1 为什么传统神经网络在物理问题上“不听话”我把朋友那个案例展开说说。他想预测一段管道内的温度分布训练数据来自若干工况下的传感器读数网络在测试集上表现很好损失值很低。但一旦把输入稍微外推——比如改变入口流速或者边界温度——网络给出的预测就开始离谱甚至出现局部温度突跳、能量不守恒这类违背物理常识的结果。原因在于传统监督学习本质上是在做函数拟合网络学到的是一组从输入到输出的映射参数目标是最小化预测和标注之间的误差。这个过程完全不知道背后还藏着热传导方程。哪怕数据再多网络也没有机制保证它学到的函数满足能量守恒、动量守恒这些基本规律。换句话说数据驱动模型擅长“记住”训练分布内的模式物理规律并不会自动涌现。PINN的思路是把物理规律从“可选的参考”变成“强制的约束”——不是给网络看更多的数据而是把控制方程本身写进损失函数让网络在满足方程的方向上找解。这样做的好处很直接即使标注数据非常稀疏甚至完全没有标签网络也能依靠方程约束学到符合物理的近似解。这也是为什么PINN在科学研究、工程仿真领域这几年的热度一直没降下来。1.2 PINN怎么让“方程本身”参与训练所谓物理信息神经网络核心改动其实就一步损失函数里除了数据误差再加入控制方程残差、边界条件误差和初始条件误差。这里我用最简单的一维热传导方程把概念讲清楚后面代码也跟着这个方程走。热传导方程写成这样u_t α · u_xx其中 u(x, t) 是温度场α 是热扩散系数u_t 是温度对时间的偏导u_xx 是温度对空间的二阶偏导。方程说的是某一点温度随时间的变化率正比于它周围温度的“弯曲程度”。如果温度分布弯曲剧烈二阶导数大温度变化就快这就是热传导的物理本质。如果有一个函数 u(x, t) 能代入方程后让左边和右边严格相等它就是方程的精确解。传统数值方法有限差分、有限元是在网格上逼近这个解而PINN的做法是用神经网络表示 u(x, t)然后让网络输出代入方程后计算残差r(x, t) u_t − α · u_xx如果 r(x, t) 处处为0说明这个神经网络代表的函数就是方程的解至少是满足方程约束的近似解。于是训练目标从“拟合数据”变成了“让残差尽量接近0”。同时还要满足边界条件 u(0,t) u(1,t) 0 和初始条件 u(x,0) sin(πx)这些也都折算成损失项。这就是我对PINN最核心的理解它不是换了一个新网络结构而是换了一种训练目标。结构上可以继续用普通MLP关键在损失函数把物理方程翻译成了机器可优化的数值指标。理解了这一点后面看代码就不会晕。2. 把偏微分方程“翻译”成损失函数一维热传导方程全推导2.1 损失函数里的三大误差项每一项代表什么传统的监督学习损失函数一般长这样Loss MSE(预测值, 真实标签)PINN的损失函数则长这样Loss λ_f · Loss_PDE λ_b · Loss_BC λ_ic · Loss_IC拆开看三个项。Loss_PDE 是控制方程残差损失。做法是在计算域里随机采样一批配置点collocation points把它们的坐标 (x, t) 输入网络得到预测温度 u再用自动微分算出 u_t 和 u_xx代入方程算出残差然后取平方平均。这一项代表的是“网络输出在多大程度上满足热传导方程”。Loss_BC 是边界条件损失。对一维问题来说就是 x0 和 x1 两条边界上的温度应该满足给定值。在边界上采样一批点让网络输出逼近边界值。Loss_IC 是初始条件损失。在 t0 时刻采样一批点让网络输出逼近初始温度分布 sin(πx)。三项分别约束了问题的不同侧面物理方程约束了函数在内部的演化规律边界条件约束了空间两端的行为初始条件约束了时间起点的状态。三者合起来才算完整刻画了一个偏微分方程定解问题。所以PINN的损失函数设计本质上就是把一个数学定解问题“翻译”成三个可微的数值指标。这个翻译过程看起来不复杂但每个细节都影响训练效果。2.2 PyTorch自动微分怎么算方程残差算残差必须求导数而且是二阶导数。传统做法是用数值差分去逼近但差分有截断误差还容易在边界点失真。PINN用的是自动微分autograd也就是深度学习框架里反向传播的那套机制它对网络函数求出的导数精度非常高几乎等于机器精度下的解析导数。以PyTorch为例核心是 torch.autograd.grad 函数。下面这段代码演示了怎么对网络输出求一阶和二阶导import torch def pde_residual(net, x, t): # x, t 是配置点坐标形状 (N, 1) x x.clone().requires_grad_(True) t t.clone().requires_grad_(True) u net(x, t) # 网络预测的温度 # 一阶导u 对 t 的偏导 u_t torch.autograd.grad( outputsu, inputst, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue )[0] # 一阶导u 对 x 的偏导 u_x torch.autograd.grad( outputsu, inputsx, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue )[0] # 二阶导u_x 再对 x 求导 u_xx torch.autograd.grad( outputsu_x, inputsx, grad_outputstorch.ones_like(u_x), create_graphTrue, retain_graphTrue )[0] residual u_t - alpha * u_xx return residual这里有两个关键点容易踩坑。第一个是 create_graphTrue 必须加上否则计算图中会丢掉高阶导数的梯度信息后面反向传播时二阶导没法回传。第二个是先对输入做 clone 再 requires_grad_避免直接修改原始采样张量的梯度属性不然多个损失项共享输入时容易出warning严重时梯度会混乱。有些朋友第一次写PINN时图省事直接用数值差分求残差然后发现损失降到一定程度死活下不去就是因为差分数值噪声成了下限。自动微分是PINN的基础设施这一关一定要过。2.3 一个能跑通的一维热传导PINN代码骨架下面这套代码我验证过很多次模型部分用带Tanh激活函数的五层MLP训练目标就是前面说的三项损失之和。初始条件取 u(x,0)sin(πx)边界条件 u(0,t)u(1,t)0解析解是 u(x,t)e^{−απ²t}sin(πx)可以用来验证训练效果。import torch import torch.nn as nn torch.manual_seed(42) alpha 0.4 # 热扩散系数 pi torch.pi class PINN(nn.Module): def __init__(self, layers(2, 50, 50, 50, 1)): super().__init__() self.activation nn.Tanh() self.linears nn.ModuleList() for i in range(len(layers) - 1): layer nn.Linear(layers[i], layers[i 1]) # Xavier初始化对Tanh网络比较友好 nn.init.xavier_normal_(layer.weight) nn.init.zeros_(layer.bias) self.linears.append(layer) def forward(self, x, t): u torch.cat([x, t], dim1) for layer in self.linears[:-1]: u self.activation(layer(u)) u self.linears[-1](u) return u def pde_residual(net, x, t): x x.clone().requires_grad_(True) t t.clone().requires_grad_(True) u net(x, t) u_t torch.autograd.grad(u, t, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue)[0] u_x torch.autograd.grad(u, x, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue)[0] u_xx torch.autograd.grad(u_x, x, grad_outputstorch.ones_like(u_x), create_graphTrue, retain_graphTrue)[0] return u_t - alpha * u_xx net PINN() optimizer torch.optim.Adam(net.parameters(), lr1e-3) def train(epochs5000, n_f2000, n_b200, n_ic200): for epoch in range(epochs): # 计算域内部配置点 x_f torch.rand(n_f, 1) t_f torch.rand(n_f, 1) # 边界点x0 和 x1时间随机 x_b torch.cat([torch.zeros(n_b, 1), torch.ones(n_b, 1)]) t_b torch.rand(2 * n_b, 1) # 初始点t0 x_ic torch.rand(n_ic, 1) t_ic torch.zeros_like(x_ic) loss_f torch.mean(pde_residual(net, x_f, t_f) ** 2) u_b net(x_b, t_b) loss_b torch.mean(u_b ** 2) u_ic net(x_ic, t_ic) loss_ic torch.mean((u_ic - torch.sin(pi * x_ic)) ** 2) loss loss_f loss_b loss_ic optimizer.zero_grad() loss.backward() optimizer.step() if epoch % 500 0: print(fepoch {epoch:5d} | loss_f {loss_f.item():.2e} f| loss_b {loss_b.item():.2e} | loss_ic {loss_ic.item():.2e}) train()这个骨架有几个设计细节值得说。第一配置点、边界点、初始点每个epoch都重新随机采样这相当于用无限多组“隐式训练数据”来约束网络比固定一组点反复训练要稳。第二Tanh激活函数在PINN里比ReLU常用因为需要求二阶导数ReLU的一阶导是分段常数、二阶导几乎处处为0直接让残差学不动。第三网络最后一层不加激活函数否则输出被限制在激活函数值域里无法拟合任意温度范围。我建议你第一次跑通这个代码后把预测值和解析解画在同一张图上你会在最简单的问题上直观感受到“方程约束”带来的变化。3. 用Deepseek搭PINN的实战流程与踩坑排查3.1 Deepseek在PINN入门里能帮上什么忙写代码之前先解决一个问题为什么推荐用Deepseek这类大模型工具辅助入门因为PINN的难点不在写一个MLP而在把数学表达“翻译”成可微代码以及训练失败时快速定位原因。这两件事恰恰是大模型工具比较擅长的地方。我实际使用中的方式大概有三种。第一种是公式转代码我把偏微分方程和边界条件用自然语言描述给Deepseek让它生成PyTorch或TensorFlow的PINN骨架再自己检查。第二种是报错解析训练时遇到NaN、梯度爆炸、形状不匹配直接把错误信息和相关代码片段丢给它让它给排查思路比翻文档效率高。第三种是概念答疑比如create_graph到底要不要开、损失函数各项权重怎么调这类问题让它从原理层面解释一遍比只看博客理解更透。当然Deepseek生成的代码不能无脑复制。PINN这东西对数学正确性极其敏感自动微分写错一行从损失曲线看根本发现不了。我的原则是让它生成代码和排错建议但关键公式、损失函数定义、物理量纲这些必须自己核对。工具的价值是把重复劳动省掉把时间留给真正需要判断力的部分。如果你希望把Deepseek嵌入到日常开发流程里可以考虑通过API方式调用这样在IDE里就能直接对话不用频繁复制粘贴。具体接入方式不同工具略有差异但核心思路无非是配置API Key、设置模型地址、在编辑器里装好对应插件。我自己习惯把常用的PINN提问模板存在本地比如“我有一个含二阶导的偏微分方程怎么在PyTorch里用autograd写残差损失”这样每次不用重复描述背景。3.2 NaN、模式坍缩、收敛过慢PINN训练最常见的三类失败我把身边朋友和我自己踩过的坑归纳了一下PINN入门阶段最常遇到的就是下面三种情况。第一类Loss变成NaN。出现NaN大概率是计算图中出现了除以零、梯度爆炸或者数值溢出。PINN里最典型的触发点是二阶导计算和自动微分嵌套create_graphTrue打开了但retain_graph没处理好某些中间张量在反向传播时被释放或者学习率设得太大梯度一步更新后权重数值爆炸输出变成inf。排查时先把学习率降到1e-4试一次再把损失函数每一项拆开单独输出看是哪一项先变成NaN。很多时候是边界条件采样和配置点重合、导致对同一个输入做了两次requires_grad(True)造成的。第二类模式坍缩。直观表现是三项损失里某一项降得很快但另外一项几乎不动比如Loss_IC很低、Loss_PDE一直下不去。这其实是网络在“走捷径”一开始初始条件约束强网络把整个输出都往初始温度分布上靠反正残差项权重低的话也管不住它。解决思路一个是调整损失函数系数把Loss_PDE的权重临时调大另一个是使用时间分阶段训练——先训练一小段时域让网络只负责把t0附近的方程学好再把时域范围逐渐扩大。第三类Loss收敛到一个不低的平台就再也不动了。这种情况很常见原因可能是网络容量不足也可能是激活函数分布不理想。PINN里Tanh在输入值很小时梯度接近1但输入稍微偏离0就会饱和梯度迅速消失。所以输入归一化特别重要——把x和t都归一化到[0,1]区间再进网络否则配置点数值稍微远离0网络一深就学不动。我遇到这类问题时会把Loss曲线和预测结果截图直接发给Deepseek把现象描述清楚它给出的排查顺序一般和上面说的差不多。但有一点机器做不了判断物理上哪个方向更可疑。比如你的边界条件本身有间断那Loss_PDE下不去是正常的这时候换任何调参手段都不会有质变。3.3 关键调参经验损失权重、网络宽度、采样点怎么定PINN的调参范围很大但入门阶段真正需要死磕的就三样损失函数权重、网络容量、采样点数量。损失权重方面经验做法是先让三项都从1起步观察前500轮的训练曲线。如果Loss_PDE明显比其他项小几个数量级说明它太容易被满足网络会把精力全放在另外两项上此时给Loss_PDE乘一个大于1的系数。反过来如果配置点损失下降很慢而边界项快速收敛要适当降低边界项权重。我见过一些论文用自适应权重方法来自动平衡各项比如Gradient Norm方法但对入门项目来说没必要手动观察并调整足够了。网络宽度和深度PINN不一定要特别深的网络很多一维二维问题三层隐藏层、每层50到100个神经元就够用了。深网络在PINN里反而容易因为梯度消失更难训练有时加残差连接或修改激活函数比单纯加层更有效。一个实用判断标准先训练500轮如果Loss_PDE一直没动静优先检查自动微分代码在排除了代码问题后再去加深网络。采样点数量配置点一次从几百到几千都有不是越多越好。配置点太多会导致每个epoch的采样开销很大单轮训练时间翻好几倍而提升效果在过了一个阈值后就开始饱和。我一般先试2000个配置点和200个边界点看情况增减。实际工程里更推荐用“渐进式采样”初期用少量点粗训练让网络先有个合理形状后期增加采样点细化局部区域。这个思路在流体问题上会反复用到建议从一开始就养成习惯。4. 从一维入门到工程应用PINN能走多远4.1 采样策略配置点怎么分布效果差别很大前面代码里用的是最简单的均匀随机采样。这个方法对一维热传导够用但换到复杂几何或参数剧烈变化的场景均匀随机就不够了。举个具体例子如果温度场内部存在一个很薄的边界层变化非常陡峭那配置点在薄层区域内部的数量会很少网络很难学出陡峭梯度。此时需要做自适应采样训练一段时间后根据当前网络残差的空间分布在残差较大的区域增加采样点。这相当于让网络自己告诉我“哪里还没学好”比盲撒均匀点高效得多。更工程化的方案是拉丁超立方采样或基于网格的准随机序列。拉丁超立方能保证每个维度上都覆盖得比较均匀避免随机采样在某些小区域聚集过多点。对于高维问题均匀采样会遇到维度灾难——采样点数量随维度指数增长所以更高维度的PINN通常都要配合自适应采样甚至分区训练。初次入门时不用在这上面花太多时间先用均匀随机跑通理解流程后再加入自适应逻辑。一个简单的自适应版本可以这样实现每训练1000轮把当前训练配置点输入网络计算残差绝对值取残差最大的那10%点在其附近用小扰动生成一批新点加入训练集。实测下来这个方法既简单又有效。4.2 从热传导到CFDPINN处理流体的核心思路与难点PINN在学术界的引爆点很大程度上是它被用于求解Navier-Stokes方程也就是CFD领域最核心的方程。Navier-Stokes方程描述的是速度场和压力场在流体中如何演化它比热传导方程复杂得多——多了动量方程的非线性对流项、压力的梯度项、不可压缩的连续性约束。把Navier-Stokes写进PINN损失函数原理和热传导一样把速度分量、压力作为网络输出把动量方程和连续性方程的残差作为损失项。但我第一次上手时还是被现实教育了工程问题往往需要套娃式地处理多物理场耦合网格无关性验证、量纲协调、边界层分辨率这些问题比想象中复杂得多。最直观的难点来自高雷诺数流动。雷诺数一高流动中出现小尺度涡和湍流结构这类多尺度问题对PINN的训练极不友好——网络需要同时表达大尺度的平均流动和小尺度的脉动而普通MLP天然地更偏向学习低频成分。这就是为什么很多PINN流体工作集中在中低雷诺数、层流或者稳态问题。想直接拿PINN替代商用CFD软件去做湍流仿真目前还远不现实。不过PINN在CFD里有一个很实际的场景是真实世界数据融合。比如你手里有一些实验测点数据想反演流场的边界条件或者流体参数这在CFD里处理起来成本很高PINN因为有方程约束可以把稀疏实验数据“锚定”进网络同时满足物理方程这类反问题反而比传统正问题更有优势。4.3 我的真实体会什么项目适合用PINN什么项目别硬上踩过一圈坑之后我对PINN的适用边界有了比较明确的判断。适合它的场景首先是正向问题中的快速探路。比如你有一个新设计的几何想快速看看温度场大概长什么样用PINN搭个松散的物理模型跑几分钟就能出个定性结果比完整网格划分和CFD仿真快很多。其次是反问题也就是根据观测数据来反推方程中的未知参数这是数据驱动方法和物理约束结合得最自然的场景。再有就是数据稀疏但物理规则明确的工业问题用少量传感器数据加方程约束往往能获得比纯数据驱动更稳的预测。不适合它的场景也很清楚高精度工程仿真验证、需要严格网格收敛性证明的任务、多尺度高雷诺数湍流问题这些领域传统的有限元、有限体积法依然是更可靠的选择。PINN目前的定位更像是“物理探索的辅助工具”而不是CFD的替代品。如果你所在的项目必须对仿真结果负责、需要通过工程审查老老实实走成熟数值方法。根据我个人经验初学PINN最务实的路径就是先把一维热传导问题跑通、理解损失函数三个项的物理含义再用Deepseek辅助逐步换到二维Poisson、Burgers方程最后才碰Navier-Stokes。跳级的结果往往是卡在网络架构调参上大半年还没搞明白问题到底出在代码还是物理建模上。最后再分享一个小技巧不管怎么换问题都要维护一份“损失项分项日志”把每组实验的Loss_PDE、Loss_BC、Loss_IC和学习率、采样点数、网络宽度一起记录下来。PINN的调参经验迁移性很强有了这份日志换到新问题时你就能快速定位是数据采样的问题、网络容量的问题还是损失权重的问题而不是每次从零开始猜。
物理信息神经网络PINN入门：从损失函数推导到代码实战
半个月前一个朋友问我我按教程训练了一个神经网络来预测管道温度场验证集误差不到1%可放到CFD软件里一比对温度分布完全不合物理。这个场景我太熟了——数据驱动的神经网络学到的只是采样区域里的插值函数控制方程对它来说是完全未知的东西。那时候我第一次认真给朋友推荐了物理神经网络PINN也顺手用了Deepseek来辅助把偏微分方程翻译成可训练的代码。今天这篇博文就把从零理解PINN、推导损失函数、写出第一个能跑的代码再到踩坑调参的完整过程写出来给打算入门物理信息神经网络的朋友做个参考。内容主要面向有基础的Python和神经网络概念、但没接触过偏微分方程约束训练的读者如果你是做CFD、传热、固体力学相关的工程师这篇文章值得看完。1. PINN到底在解决什么问题数据驱动之外的另一条路1.1 为什么传统神经网络在物理问题上“不听话”我把朋友那个案例展开说说。他想预测一段管道内的温度分布训练数据来自若干工况下的传感器读数网络在测试集上表现很好损失值很低。但一旦把输入稍微外推——比如改变入口流速或者边界温度——网络给出的预测就开始离谱甚至出现局部温度突跳、能量不守恒这类违背物理常识的结果。原因在于传统监督学习本质上是在做函数拟合网络学到的是一组从输入到输出的映射参数目标是最小化预测和标注之间的误差。这个过程完全不知道背后还藏着热传导方程。哪怕数据再多网络也没有机制保证它学到的函数满足能量守恒、动量守恒这些基本规律。换句话说数据驱动模型擅长“记住”训练分布内的模式物理规律并不会自动涌现。PINN的思路是把物理规律从“可选的参考”变成“强制的约束”——不是给网络看更多的数据而是把控制方程本身写进损失函数让网络在满足方程的方向上找解。这样做的好处很直接即使标注数据非常稀疏甚至完全没有标签网络也能依靠方程约束学到符合物理的近似解。这也是为什么PINN在科学研究、工程仿真领域这几年的热度一直没降下来。1.2 PINN怎么让“方程本身”参与训练所谓物理信息神经网络核心改动其实就一步损失函数里除了数据误差再加入控制方程残差、边界条件误差和初始条件误差。这里我用最简单的一维热传导方程把概念讲清楚后面代码也跟着这个方程走。热传导方程写成这样u_t α · u_xx其中 u(x, t) 是温度场α 是热扩散系数u_t 是温度对时间的偏导u_xx 是温度对空间的二阶偏导。方程说的是某一点温度随时间的变化率正比于它周围温度的“弯曲程度”。如果温度分布弯曲剧烈二阶导数大温度变化就快这就是热传导的物理本质。如果有一个函数 u(x, t) 能代入方程后让左边和右边严格相等它就是方程的精确解。传统数值方法有限差分、有限元是在网格上逼近这个解而PINN的做法是用神经网络表示 u(x, t)然后让网络输出代入方程后计算残差r(x, t) u_t − α · u_xx如果 r(x, t) 处处为0说明这个神经网络代表的函数就是方程的解至少是满足方程约束的近似解。于是训练目标从“拟合数据”变成了“让残差尽量接近0”。同时还要满足边界条件 u(0,t) u(1,t) 0 和初始条件 u(x,0) sin(πx)这些也都折算成损失项。这就是我对PINN最核心的理解它不是换了一个新网络结构而是换了一种训练目标。结构上可以继续用普通MLP关键在损失函数把物理方程翻译成了机器可优化的数值指标。理解了这一点后面看代码就不会晕。2. 把偏微分方程“翻译”成损失函数一维热传导方程全推导2.1 损失函数里的三大误差项每一项代表什么传统的监督学习损失函数一般长这样Loss MSE(预测值, 真实标签)PINN的损失函数则长这样Loss λ_f · Loss_PDE λ_b · Loss_BC λ_ic · Loss_IC拆开看三个项。Loss_PDE 是控制方程残差损失。做法是在计算域里随机采样一批配置点collocation points把它们的坐标 (x, t) 输入网络得到预测温度 u再用自动微分算出 u_t 和 u_xx代入方程算出残差然后取平方平均。这一项代表的是“网络输出在多大程度上满足热传导方程”。Loss_BC 是边界条件损失。对一维问题来说就是 x0 和 x1 两条边界上的温度应该满足给定值。在边界上采样一批点让网络输出逼近边界值。Loss_IC 是初始条件损失。在 t0 时刻采样一批点让网络输出逼近初始温度分布 sin(πx)。三项分别约束了问题的不同侧面物理方程约束了函数在内部的演化规律边界条件约束了空间两端的行为初始条件约束了时间起点的状态。三者合起来才算完整刻画了一个偏微分方程定解问题。所以PINN的损失函数设计本质上就是把一个数学定解问题“翻译”成三个可微的数值指标。这个翻译过程看起来不复杂但每个细节都影响训练效果。2.2 PyTorch自动微分怎么算方程残差算残差必须求导数而且是二阶导数。传统做法是用数值差分去逼近但差分有截断误差还容易在边界点失真。PINN用的是自动微分autograd也就是深度学习框架里反向传播的那套机制它对网络函数求出的导数精度非常高几乎等于机器精度下的解析导数。以PyTorch为例核心是 torch.autograd.grad 函数。下面这段代码演示了怎么对网络输出求一阶和二阶导import torch def pde_residual(net, x, t): # x, t 是配置点坐标形状 (N, 1) x x.clone().requires_grad_(True) t t.clone().requires_grad_(True) u net(x, t) # 网络预测的温度 # 一阶导u 对 t 的偏导 u_t torch.autograd.grad( outputsu, inputst, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue )[0] # 一阶导u 对 x 的偏导 u_x torch.autograd.grad( outputsu, inputsx, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue )[0] # 二阶导u_x 再对 x 求导 u_xx torch.autograd.grad( outputsu_x, inputsx, grad_outputstorch.ones_like(u_x), create_graphTrue, retain_graphTrue )[0] residual u_t - alpha * u_xx return residual这里有两个关键点容易踩坑。第一个是 create_graphTrue 必须加上否则计算图中会丢掉高阶导数的梯度信息后面反向传播时二阶导没法回传。第二个是先对输入做 clone 再 requires_grad_避免直接修改原始采样张量的梯度属性不然多个损失项共享输入时容易出warning严重时梯度会混乱。有些朋友第一次写PINN时图省事直接用数值差分求残差然后发现损失降到一定程度死活下不去就是因为差分数值噪声成了下限。自动微分是PINN的基础设施这一关一定要过。2.3 一个能跑通的一维热传导PINN代码骨架下面这套代码我验证过很多次模型部分用带Tanh激活函数的五层MLP训练目标就是前面说的三项损失之和。初始条件取 u(x,0)sin(πx)边界条件 u(0,t)u(1,t)0解析解是 u(x,t)e^{−απ²t}sin(πx)可以用来验证训练效果。import torch import torch.nn as nn torch.manual_seed(42) alpha 0.4 # 热扩散系数 pi torch.pi class PINN(nn.Module): def __init__(self, layers(2, 50, 50, 50, 1)): super().__init__() self.activation nn.Tanh() self.linears nn.ModuleList() for i in range(len(layers) - 1): layer nn.Linear(layers[i], layers[i 1]) # Xavier初始化对Tanh网络比较友好 nn.init.xavier_normal_(layer.weight) nn.init.zeros_(layer.bias) self.linears.append(layer) def forward(self, x, t): u torch.cat([x, t], dim1) for layer in self.linears[:-1]: u self.activation(layer(u)) u self.linears[-1](u) return u def pde_residual(net, x, t): x x.clone().requires_grad_(True) t t.clone().requires_grad_(True) u net(x, t) u_t torch.autograd.grad(u, t, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue)[0] u_x torch.autograd.grad(u, x, grad_outputstorch.ones_like(u), create_graphTrue, retain_graphTrue)[0] u_xx torch.autograd.grad(u_x, x, grad_outputstorch.ones_like(u_x), create_graphTrue, retain_graphTrue)[0] return u_t - alpha * u_xx net PINN() optimizer torch.optim.Adam(net.parameters(), lr1e-3) def train(epochs5000, n_f2000, n_b200, n_ic200): for epoch in range(epochs): # 计算域内部配置点 x_f torch.rand(n_f, 1) t_f torch.rand(n_f, 1) # 边界点x0 和 x1时间随机 x_b torch.cat([torch.zeros(n_b, 1), torch.ones(n_b, 1)]) t_b torch.rand(2 * n_b, 1) # 初始点t0 x_ic torch.rand(n_ic, 1) t_ic torch.zeros_like(x_ic) loss_f torch.mean(pde_residual(net, x_f, t_f) ** 2) u_b net(x_b, t_b) loss_b torch.mean(u_b ** 2) u_ic net(x_ic, t_ic) loss_ic torch.mean((u_ic - torch.sin(pi * x_ic)) ** 2) loss loss_f loss_b loss_ic optimizer.zero_grad() loss.backward() optimizer.step() if epoch % 500 0: print(fepoch {epoch:5d} | loss_f {loss_f.item():.2e} f| loss_b {loss_b.item():.2e} | loss_ic {loss_ic.item():.2e}) train()这个骨架有几个设计细节值得说。第一配置点、边界点、初始点每个epoch都重新随机采样这相当于用无限多组“隐式训练数据”来约束网络比固定一组点反复训练要稳。第二Tanh激活函数在PINN里比ReLU常用因为需要求二阶导数ReLU的一阶导是分段常数、二阶导几乎处处为0直接让残差学不动。第三网络最后一层不加激活函数否则输出被限制在激活函数值域里无法拟合任意温度范围。我建议你第一次跑通这个代码后把预测值和解析解画在同一张图上你会在最简单的问题上直观感受到“方程约束”带来的变化。3. 用Deepseek搭PINN的实战流程与踩坑排查3.1 Deepseek在PINN入门里能帮上什么忙写代码之前先解决一个问题为什么推荐用Deepseek这类大模型工具辅助入门因为PINN的难点不在写一个MLP而在把数学表达“翻译”成可微代码以及训练失败时快速定位原因。这两件事恰恰是大模型工具比较擅长的地方。我实际使用中的方式大概有三种。第一种是公式转代码我把偏微分方程和边界条件用自然语言描述给Deepseek让它生成PyTorch或TensorFlow的PINN骨架再自己检查。第二种是报错解析训练时遇到NaN、梯度爆炸、形状不匹配直接把错误信息和相关代码片段丢给它让它给排查思路比翻文档效率高。第三种是概念答疑比如create_graph到底要不要开、损失函数各项权重怎么调这类问题让它从原理层面解释一遍比只看博客理解更透。当然Deepseek生成的代码不能无脑复制。PINN这东西对数学正确性极其敏感自动微分写错一行从损失曲线看根本发现不了。我的原则是让它生成代码和排错建议但关键公式、损失函数定义、物理量纲这些必须自己核对。工具的价值是把重复劳动省掉把时间留给真正需要判断力的部分。如果你希望把Deepseek嵌入到日常开发流程里可以考虑通过API方式调用这样在IDE里就能直接对话不用频繁复制粘贴。具体接入方式不同工具略有差异但核心思路无非是配置API Key、设置模型地址、在编辑器里装好对应插件。我自己习惯把常用的PINN提问模板存在本地比如“我有一个含二阶导的偏微分方程怎么在PyTorch里用autograd写残差损失”这样每次不用重复描述背景。3.2 NaN、模式坍缩、收敛过慢PINN训练最常见的三类失败我把身边朋友和我自己踩过的坑归纳了一下PINN入门阶段最常遇到的就是下面三种情况。第一类Loss变成NaN。出现NaN大概率是计算图中出现了除以零、梯度爆炸或者数值溢出。PINN里最典型的触发点是二阶导计算和自动微分嵌套create_graphTrue打开了但retain_graph没处理好某些中间张量在反向传播时被释放或者学习率设得太大梯度一步更新后权重数值爆炸输出变成inf。排查时先把学习率降到1e-4试一次再把损失函数每一项拆开单独输出看是哪一项先变成NaN。很多时候是边界条件采样和配置点重合、导致对同一个输入做了两次requires_grad(True)造成的。第二类模式坍缩。直观表现是三项损失里某一项降得很快但另外一项几乎不动比如Loss_IC很低、Loss_PDE一直下不去。这其实是网络在“走捷径”一开始初始条件约束强网络把整个输出都往初始温度分布上靠反正残差项权重低的话也管不住它。解决思路一个是调整损失函数系数把Loss_PDE的权重临时调大另一个是使用时间分阶段训练——先训练一小段时域让网络只负责把t0附近的方程学好再把时域范围逐渐扩大。第三类Loss收敛到一个不低的平台就再也不动了。这种情况很常见原因可能是网络容量不足也可能是激活函数分布不理想。PINN里Tanh在输入值很小时梯度接近1但输入稍微偏离0就会饱和梯度迅速消失。所以输入归一化特别重要——把x和t都归一化到[0,1]区间再进网络否则配置点数值稍微远离0网络一深就学不动。我遇到这类问题时会把Loss曲线和预测结果截图直接发给Deepseek把现象描述清楚它给出的排查顺序一般和上面说的差不多。但有一点机器做不了判断物理上哪个方向更可疑。比如你的边界条件本身有间断那Loss_PDE下不去是正常的这时候换任何调参手段都不会有质变。3.3 关键调参经验损失权重、网络宽度、采样点怎么定PINN的调参范围很大但入门阶段真正需要死磕的就三样损失函数权重、网络容量、采样点数量。损失权重方面经验做法是先让三项都从1起步观察前500轮的训练曲线。如果Loss_PDE明显比其他项小几个数量级说明它太容易被满足网络会把精力全放在另外两项上此时给Loss_PDE乘一个大于1的系数。反过来如果配置点损失下降很慢而边界项快速收敛要适当降低边界项权重。我见过一些论文用自适应权重方法来自动平衡各项比如Gradient Norm方法但对入门项目来说没必要手动观察并调整足够了。网络宽度和深度PINN不一定要特别深的网络很多一维二维问题三层隐藏层、每层50到100个神经元就够用了。深网络在PINN里反而容易因为梯度消失更难训练有时加残差连接或修改激活函数比单纯加层更有效。一个实用判断标准先训练500轮如果Loss_PDE一直没动静优先检查自动微分代码在排除了代码问题后再去加深网络。采样点数量配置点一次从几百到几千都有不是越多越好。配置点太多会导致每个epoch的采样开销很大单轮训练时间翻好几倍而提升效果在过了一个阈值后就开始饱和。我一般先试2000个配置点和200个边界点看情况增减。实际工程里更推荐用“渐进式采样”初期用少量点粗训练让网络先有个合理形状后期增加采样点细化局部区域。这个思路在流体问题上会反复用到建议从一开始就养成习惯。4. 从一维入门到工程应用PINN能走多远4.1 采样策略配置点怎么分布效果差别很大前面代码里用的是最简单的均匀随机采样。这个方法对一维热传导够用但换到复杂几何或参数剧烈变化的场景均匀随机就不够了。举个具体例子如果温度场内部存在一个很薄的边界层变化非常陡峭那配置点在薄层区域内部的数量会很少网络很难学出陡峭梯度。此时需要做自适应采样训练一段时间后根据当前网络残差的空间分布在残差较大的区域增加采样点。这相当于让网络自己告诉我“哪里还没学好”比盲撒均匀点高效得多。更工程化的方案是拉丁超立方采样或基于网格的准随机序列。拉丁超立方能保证每个维度上都覆盖得比较均匀避免随机采样在某些小区域聚集过多点。对于高维问题均匀采样会遇到维度灾难——采样点数量随维度指数增长所以更高维度的PINN通常都要配合自适应采样甚至分区训练。初次入门时不用在这上面花太多时间先用均匀随机跑通理解流程后再加入自适应逻辑。一个简单的自适应版本可以这样实现每训练1000轮把当前训练配置点输入网络计算残差绝对值取残差最大的那10%点在其附近用小扰动生成一批新点加入训练集。实测下来这个方法既简单又有效。4.2 从热传导到CFDPINN处理流体的核心思路与难点PINN在学术界的引爆点很大程度上是它被用于求解Navier-Stokes方程也就是CFD领域最核心的方程。Navier-Stokes方程描述的是速度场和压力场在流体中如何演化它比热传导方程复杂得多——多了动量方程的非线性对流项、压力的梯度项、不可压缩的连续性约束。把Navier-Stokes写进PINN损失函数原理和热传导一样把速度分量、压力作为网络输出把动量方程和连续性方程的残差作为损失项。但我第一次上手时还是被现实教育了工程问题往往需要套娃式地处理多物理场耦合网格无关性验证、量纲协调、边界层分辨率这些问题比想象中复杂得多。最直观的难点来自高雷诺数流动。雷诺数一高流动中出现小尺度涡和湍流结构这类多尺度问题对PINN的训练极不友好——网络需要同时表达大尺度的平均流动和小尺度的脉动而普通MLP天然地更偏向学习低频成分。这就是为什么很多PINN流体工作集中在中低雷诺数、层流或者稳态问题。想直接拿PINN替代商用CFD软件去做湍流仿真目前还远不现实。不过PINN在CFD里有一个很实际的场景是真实世界数据融合。比如你手里有一些实验测点数据想反演流场的边界条件或者流体参数这在CFD里处理起来成本很高PINN因为有方程约束可以把稀疏实验数据“锚定”进网络同时满足物理方程这类反问题反而比传统正问题更有优势。4.3 我的真实体会什么项目适合用PINN什么项目别硬上踩过一圈坑之后我对PINN的适用边界有了比较明确的判断。适合它的场景首先是正向问题中的快速探路。比如你有一个新设计的几何想快速看看温度场大概长什么样用PINN搭个松散的物理模型跑几分钟就能出个定性结果比完整网格划分和CFD仿真快很多。其次是反问题也就是根据观测数据来反推方程中的未知参数这是数据驱动方法和物理约束结合得最自然的场景。再有就是数据稀疏但物理规则明确的工业问题用少量传感器数据加方程约束往往能获得比纯数据驱动更稳的预测。不适合它的场景也很清楚高精度工程仿真验证、需要严格网格收敛性证明的任务、多尺度高雷诺数湍流问题这些领域传统的有限元、有限体积法依然是更可靠的选择。PINN目前的定位更像是“物理探索的辅助工具”而不是CFD的替代品。如果你所在的项目必须对仿真结果负责、需要通过工程审查老老实实走成熟数值方法。根据我个人经验初学PINN最务实的路径就是先把一维热传导问题跑通、理解损失函数三个项的物理含义再用Deepseek辅助逐步换到二维Poisson、Burgers方程最后才碰Navier-Stokes。跳级的结果往往是卡在网络架构调参上大半年还没搞明白问题到底出在代码还是物理建模上。最后再分享一个小技巧不管怎么换问题都要维护一份“损失项分项日志”把每组实验的Loss_PDE、Loss_BC、Loss_IC和学习率、采样点数、网络宽度一起记录下来。PINN的调参经验迁移性很强有了这份日志换到新问题时你就能快速定位是数据采样的问题、网络容量的问题还是损失权重的问题而不是每次从零开始猜。
![3个实力派降AI率网站，让你的论文AI率直降个位数[必看]](http://pic.xiahunao.cn/yaotu/3个实力派降AI率网站，让你的论文AI率直降个位数[必看])
