RAMS：残差驱动样本主动迁移提升PDE求解精度与效率
让样本主动“找难点”：RAMS提升偏微分方程科学机器学习的精度与效率
面向PINN与神经算子的残差驱动对抗梯度移动样本方法
RAMS: Residual-Based Adversarial-Gradient Moving Sample Method for Scientific Machine Learning in Solving Partial Differential Equations
核心思路
RAMS跳出了传统采样的固有模式，无需在高维空间中批量生成海量候选样本，而是直接将训练样本本身设为可优化参数，让它们沿着放大物理残差的方向主动迁移。仅用极低的额外计算成本，就能将有限的样本精准分配到模型当前最需要学习的区域，有效解决了传统采样方法在高维场景下的效率瓶颈。
研究背景
偏微分方程（PDE）是描述流体力学、传热学、波传播等众多科学与工程过程的核心工具，物理信息神经网络（PINN）和神经算子为PDE的高效求解提供了全新的数据驱动路径。不过这类模型的性能高度依赖训练样本的质量与分布：样本数量不足时，难以覆盖解中存在的局部尖峰、间断或多尺度结构；样本过多则会大幅提升数据生成和模型训练的成本。
传统自适应采样方法通常先生成大量候选点，再将采样密度向PDE残差较高的区域集中，这种思路在低维问题中效果尚可，但随着问题维度升高，候选空间会迅速变得稀疏，搜索成本也会急剧攀升。对于神经算子而言，其输入函数往往被离散为高维向量，传统的“生成候选点再筛选”的采样方式更难直接推广应用。
方法详解
针对上述痛点，相关团队提出了残差驱动的对抗梯度移动样本方法RAMS。该方法的核心逻辑是：将空间-时间坐标或是输入函数的样本本身视作可训练参数，在模型训练的间隙固定网络参数，沿物理残差对样本的梯度方向执行梯度上升操作，让样本主动移动到当前模型最难满足控制方程的区域；如果样本超出了有效空间范围，再通过投影或核平滑将其映射回合法区域。
RAMS并非独立于现有采样策略的替代方案，而是一款可插拔的增强模块。研究团队将其与随机采样、拉丁超立方采样、Halton序列采样、基于残差的贪婪自适应细化（RAR-G）、基于残差分布的自适应细化（RAR-D）以及保留—重采样—释放（R3）等多种采样策略结合，还将其拓展到了物理信息神经算子和数据驱动的算子学习场景中。
在数据驱动的场景下，RAMS可以利用PDE残差移动待采集的输入函数，再通过数值求解器或实验获取标签，从而形成一套完整的面向科学机器学习的主动学习流程。
实验效果验证
适配多种采样策略的精度提升
研究团队在多个经典PDE算例中验证了RAMS的增益效果：在一维Burgers方程中，加入RAMS后，随机采样的平均相对L2误差从0.181降至0.010，误差降低幅度超过一个数量级；在一维波动方程中，搭配RAMS的各类采样方法的平均误差降低幅度超过50%；在带有尖锐内峰的二维Poisson问题中，误差降低幅度约为40%到95%。值得注意的是，在所有实验中，RAMS的样本移动步骤的平均耗时均低于总运行时间的2%，这说明其性能提升并非来自额外的计算预算投入。
直观的样本迁移效果
二维Poisson算例直观展示了RAMS的工作机制：初始状态下样本近似均匀分布，随着训练的推进，可移动的样本会逐渐向(0.5, 0.5)附近的尖锐内峰区域聚集。与“反复生成更多采样点”的思路相比，这种基于梯度的定向迁移方式，能够用有限的样本持续追踪高残差区域。
高维场景与算子学习的效率突破
在最高10维的PDE测试中，使用2万个配点的前提下，普通随机采样在维度不低于7时误差已经接近1，而RAMS在10维的场景下仍能将误差控制在10-2以下。为了达到相对均方误差不高于10-3的精度标准，6维问题中普通随机采样需要耗时约19861秒，而RAMS仅需约829秒；RAMS的计算成本随维度增长近似呈线性，10维场景下耗时约为1529秒。
在物理信息算子学习场景中，针对扩散-反应方程的困难测试集，随机采样的平均误差从约0.25降至0.08；在8维动态系统中，RAMS仅使用了面向代理模型的深度自适应采样(DAS²)约3%的样本量，就达到了相近的精度水平。在数据驱动算子学习场景中，针对带有不连续波速的波动方程，RAMS将误差最多降低了63%，在二维Burgers方程中误差降低约40%。这些结果证明，RAMS为高维函数空间中的自适应采样提供了一条可行的高效路径。
总结与展望
RAMS将“如何选择合适的训练样本”转化为一个可通过自动微分求解的优化问题：无需盲目扩大候选样本池，而是让现有样本沿着模型的物理薄弱区域方向主动迁移。这款方法兼容多种现有的采样策略，适用于PINN、物理信息神经算子和数据驱动神经算子等多种科学机器学习场景，能够在极低的额外计算开销下，同时提升模型精度与样本利用效率。
研究团队也指出，样本更新的次数并非越多越好，RAMS的迭代步数以及不同样本空间中的投影方式，仍需要根据具体问题进行针对性调节。未来，团队计划探索RAMS在可同时求解多类PDE的基础模型训练中的应用场景。
