热仿真在各个领域中起着至关重要的作用,通常涉及复杂的偏微分方程(PDE)仿真以进行热优化。为了解决通过传统方法求解复杂的偏微分方程所面临的挑战,我们利用神经网络进行热预测,尤其是采用深度神经网络作为PDE的通用求解器。这一创新方法在科学界引起了重大关注。虽然物理信息(physical information)已经应用于深度神经网络进行热预测,但现有方法主要集中于为预定义的相关参数提供热仿真,如热源、负载、边界和初始条件等。通常来说,调整这些参数都需要重新训练或迁移学习,额外增加大量工作量。为了克服这一局限性,利用PI-DeepONet的模型 (Wang et al., 2021),将PINN方法与DeepONet模型相结合用于热仿真。该模型同时将相关参数和坐标点作为输入函数,为热仿真提供了新的计算视角。研究表明,基于飞桨深度学习平台,经过充分训练,该模型能够可靠且迅速地预测参数解。此外,该模型的速度显著提高,超越了传统的数值求解器数个数量级,并且无需进行额外训练。这一开创性的研究框架具有广泛的应用潜力,将为热仿真领域的进步注入强大动力。
热挑战已成为高性能处理器行业的主要制约因素之一。由于功能单元内部的功耗不均匀,导致温度分布不均匀,进而引发难以预测和控制的热问题。随着技术的不断微型化,芯片上晶体管的密度不断增加,会导致更高的功率和热密度,热问题在芯片中变得更加严重。特别是在 3D 堆叠芯片中,由于多层的存在,通过传统的散热器和扩散器的散热方法效果并不理想。因此,对芯片进行热仿真已经成为集成电路设计流程中的关键。这要求研究人员开发热模拟器,并针对不同的设计标准对其进行优化。为了进行多项设计优化,我们需要一种方法来快速预测任何给定布局和功率分布的热分布。
基于离散化的数值计算方法,如有限元法和有限差分法等,已广泛应用于各种热仿真。数值计算方法虽然可以提供准确的温度分布,但会耗费大量的计算资源。一旦更换新的设计配置,就需要重新运行许多模拟来优化设计案例,这对于复杂的任务难以负担。基于神经网络的方法具有实时预测任意数据的优势,目前已经提出了一些数据驱动方法和基于物理的神经网络(PINN)方法。然而,现有方法要么无法解决3D芯片热仿真的问题,要么缺乏对不同PDE配置的通用性,或是需要与传统的求解器或额外的计算相结合。
为了解决上述挑战,我们利用飞桨深度学习平台,将DeepONet和PINN方法相结合,对现有的PI-DeepONet框架进行拓展,实现了对各种(参数化和非参数化)PDE配置下的通用、超快速芯片热仿真。这一增强型模型能够在单个坐标点上处理多个PDE配置,对各个PDE配置进行分类,旨在提高热预测的准确性和效率,同时降低训练过程中的计算成本,从而提供一种有效解决热挑战的工具。与基于有限差分的数值方法相比,我们提出的PI-DeepONet在保持令人满意的准确性的同时,实现了100倍到1000倍的显著加速。
问题描述
为了搭建通用的热仿真模型,首先需要对一般情况下热仿真问题进行简要描述。热仿真旨在通过全局求解热传导方程来预测给定物体的温度场,通常可以用以下控制方程表示:
其中 为给定物体材料的模拟区域,如图所示为一个具有随机热源分布的2D芯片模拟区域。 分别表示在任意时空位置 处温度和热源分布, 为温度阈值。这里 、 、 均为给定物体的材料特性,分别表示材料传热系数、质量密度和比热容。为了方便,我们关注给定物体材料的静态温度场,并通过设置 来简化方程:
对于给定物体材料的通用热仿真模型,除了要满足控制方程,其温度场的分布情况还取决于一些关键的PDE配置,包括但不限于材料特性和几何参数。
第一类PDE配置是给定物体材料的边界条件,包括Dirichlet边界条件、Neumann边界条件、对流边界条件、辐射边界条件等。
第二类PDE配置是给定物体材料的边界或内部热源的位置和强度。
我们希望实现在给定的物体材料的通用热仿真模型上,输入任意的第一类或第二类设计配置,均可以得到对应的温度场分布情况。值得注意的是,这项工作中开发的通用热仿真的PI-DeepONet 方法并不限于 第一类或第二类设计配置 条件和规则的几何形状。通过超出当前工作范围的进一步代码修改,它们可以应用于各种载荷、材料属性,甚至各种不规则的几何形状。
PI-DeepONet模型
PI-DeepONet模型,结合了DeepONet 和 PINN 方法,是一种物理信息和算子学习相融合的深度神经网络模型。这种模型可以通过控制方程的物理信息来增强 DeepONet 模型,同时将不同的 PDE 配置分别作为不同分支网络的输入数据,从而有效地在各种(参数和非参数)PDE 配置下进行超快速的模型预测。
对于芯片热仿真问题,PI-DeepONet 模型可通过下图的结构表现:
如图所示,我们可以使用多个分支网络和一个主干网络,分支网络可以分别输入边界类型指标、随机热源分布 和边界函数 等,主干网络输入坐标点坐标信息。每个分支网和主干网均输出 维特征向量,通过 Hadamard(逐元素)乘积组合所有这些输出特征,然后将所得向量相加为预测温度场的标量输出。
利用物理信息神经网络(PINN)的思想训练DeepONet,求解偏微分方程。对于第 个配置 ,首先索引位于其指定区域中的所有坐标,例如边界曲面,表示为 。其次,在 上施加物理约束 。我们将 表示为
其中 表示第一类或第二类的PDE配置。对于整个区域的约束如下
最后得到的总体损失函数为:
通过基于自动微分算法的梯度下降最小化总损失,并以此训练PI-DeepONet。
实验
我们设计了一系列实验来评估所提出的 PI-DeepONet 模型的性能。结果表明,PI-DeepONet 模型可以有效预测任意 PDE 配置和材料属性下的温度场。值得注意的是,我们的实验使用了飞桨平台,以及基于赛桨PaddleScience开发的代码。PaddleScience 是一个基于飞桨深度学习平台构建的专业科学机器学习工具包。它为物理、化学和气候科学等各个科学领域的高阶自动微分提供支持。此外,PaddleScience 还为物理驱动模型、数据驱动模型以及结合这两种方法的混合模型提供全面支持,并为用户提供必要的 API 和教程。
2D芯片热仿真
对于2D芯片热仿真,我们一共使用了 3 个分支网络和一个主干网络,分支网络分别输入边界类型指标、随机热源分布 和边界函数 ,主干网络输入二维坐标点坐标信息。每个分支网和主干网均输出 维特征向量,通过 Hadamard(逐元素)乘积组合所有输出特征,然后将所得向量相加为预测温度场的标量输出。
通过高斯随机场生成三组随机热源分布 ,如下图中第一行所示。接下来可以设置第一类PDE中的任意边界条件。在此,我们给出了五类边界条件,如下图中第一列控制方程中的边界方程所示,在测试过程中,假设 。在不同随机热源 分布和不同边界条件下,通过PI-DeepONet模型测试的温度场分布如图所示。从图中可知,尽管随机热源分布 和边界条件在测试样本之间存在着显著差异,但PI-DeepONet 模型均可以正确预测由热传导方程控制的内部和边界上的二维扩散性质解。
表中展示了使用我们所提出的基于飞桨深度学习平台的 PI-DeepONet 模型进行推理的计算成本,以及使用二阶有限差分迭代 (Jacobi) 方法的热传导偏微分方程 (PDE) 的求解时间。生成与任意热源和边界函数相关的数据,并充分训练 PI-DeepONet 模型(在 A100 GPU 上大约需要 2 小时的训练过程),PI-DeepONet 可以快速预测任意随机热量下的温度场分布。在现代 GPU 上,仅需几分之一秒,即可完成源和边界函数。这是一项重大突破,比传统的 PDE 求解器快两到三个数量级。
3D芯片热仿真
为了证明我们提出的 PI-DeepONet 模型适用于3D 芯片热模,对于3D芯片热仿真,我们一共使用了 2 个分支网络和一个主干网络,分支网络分别输入Dirichlet 和 Neumann 边界函数,主干网络输入三维坐标点坐标信息。每个分支网和主干网均输出 维特征向量,通过 Hadamard(逐元素)乘积组合所有这些输出特征,然后将所得向量相加为预测温度场的标量输出。
将 PI-DeepONet 模型预测的温度分布与 COMSOL 数值解进行比较。从图中可以明显看出,我们的 PI-DeepONet 模型预测的温度分布与 COMSOL 模拟获得的温度分布非常相似。此外,两者之间的绝对误差相对较小。因此,我们的 PI-DeepONet 模型在预测顶面上具有新边界函数的 3D 芯片的温度场方面表现出了令人满意的精度。
结论
本文提出了一个新的PI-DeepONet框架,旨在解决先前PI-DeepONet模型中的多个PDE配置挑战。这是一个通用且超快速的模型,可作为芯片热仿真的高效工具。通过将操作符学习模型DeepONet与物理信息模型PINN相结合,本研究改进了先前的热仿真模型,还提出了一种新颖的多PDE配置分类方法,以减少分支网络的数量,从而提高模型的准确性和计算效率。该创新方法的出现代表着PI-DeepONets首次应用于科学和工程中由高度复杂的参数化PDE控制的空间多维问题。我们的研究结果表明,PI-DeepONets可以有效学习解决芯片热仿真问题,并合理精确地在当代GPU上推断出新的、未见过的测试数据集中任意热源和边界函数的温度场分布。值得注意的是,我们观察到,与传统数值求解器相比,使用预训练的PI-DeepONet模型解决多个PDE配置下的芯片热仿真问题的计算成本降低了几个数量级。此外,PI-DeepONet的离线阶段(数据生成)所需的时间大大减少,使其能够在不依赖生成或观测到的解目标的情况下学习参数热传导方程的解算子。然而,需要承认PI-DeepONet模型仍存在局限性。虽然我们的方法与传统数值方法相比具有显著的计算优势,但精度仍存在差距。此外,将模型扩展到处理更广泛的PDE配置下的3D堆叠芯片的热仿真需要产生大量随机数据。未来预计基于PI-DeepONets的类似代理深度学习模型将支持或潜在取代传统的数值PDE求解器核。这一进步将在由参数化PDE控制的各种科学和工程应用和过程中带来速度显著提高的高保真度仿真、优化、设计和在线控制。
相关链接
文章
A fast general thermal simulation model based on MultiBranch Physics-Informed deep operator neural network(https://doi.org/10.1063/5.0194245)
代码
https://paddlescience-docs.readthedocs.io/zh/latest/zh/examples/chip_heat/
飞桨星河社区
https://aistudio.baidu.com/projectdetail/7682679(点击阅读原文跳转)
关注【飞桨PaddlePaddle】公众号
获取更多技术内容~