Prediction Method of CO2 Plume Distribution Based on Physics-Informed Neural Networks
-
摘要:
为了提高CO2地质封存的有效性和安全性,需要准确预测地层中CO2羽流的分布和迁移规律。为此,利用自动微分技术,将多相渗流偏微分方程约束嵌入模型的损失函数中,建立了多相渗流力学约束的CO2羽流分布深度神经网络预测模型,以确保模型预测结果既符合训练数据样本的分布规律,又严格遵守偏微分方程描述的流体渗流物理规律。为了验证模型的有效性,以枯竭油藏封存CO2的实际案例为研究对象,分别应用多层感知器和长短期记忆深度神经网络构建了2个物理信息深度神经网络(PINNs)模型。研究表明,与纯数据驱动模型的预测结果相比,基于PINNs的模型具有更高的预测精度。研究结果不仅为CO2地质封存项目的设计与实施提供了技术支撑,也为该技术的实际应用提供了理论依据。
Abstract:To enhance the effectivity and safety of CO2 geological storage, accurate prediction of CO2 plume distribution and migration in formations has become essential. Therefore, the partial differential equation (PDE) constraints of multiphase flow were embedded into the loss function of the model by using automatic differential technique, and deep neural network models were developed to predict CO2 plume distributions, with constraints imposed by multiphase flow mechanics, ensuring that the model’s prediction results not only conform to the distribution law of training data samples but also strictly abide by the physical law of fluid seepage described by the PDE. To validate the model’s effectiveness, two PINN models were constructed using a multi-layer perceptron (MLP) and a long short-term memory (LSTM) network. These were applied in a practical case study on CO2 storage within a depleted oil reservoir. The results show that compared with pure data-driven models, the PINNs-based models demonstrate superior prediction accuracy. The findings of this research provide technical support for the design and implementation of CO2 geological storage projects while offering a theoretical foundation for the practical application of this technology.
-
碳捕集与封存技术(CCS)被广泛视为实现工业减排最具潜力的技术之一[1–3]。全球多个国家已开展CO2地质封存试验,其中枯竭油气藏因其封闭性和现有的井设施,成为理想的封存场所[4–6]。然而,大多数油藏注水开发后,孔隙介质会被水填充,注入的CO2会排出大部分水以实现地质封存,导致地层中同时存在水相和气相,相间平衡的变化会影响CO2的运移和分布,进而影响CO2羽流的预测。为此,需要建立多相渗流力学模型,并采用数值方法求解偏微分方程[7–8]。尽管进行大量的多相流数值模拟计算可以分析不同条件对CO2可注入性和封存安全性的影响,但长达数十年的模拟时间会产生巨大的计算负荷,限制了数值模拟的实际应用。
近年来,基于数据驱动的机器学习方法在CO2地质封存领域得到了广泛的应用和研究[9–11]。相较于传统的数值模拟方法,这类方法利用先进的深度神经网络模型,建立输入与输出之间的函数映射关系,从而能够快速给出预测结果,避免了复杂的数值模拟计算过程。然而,由于CO2地质封存模型的输入输出间存在复杂的非线性关系,并且训练样本数量有限,使机器学习算法面临过拟合问题,导致模型的泛化性能不佳。为此,G. E. Karniadakis等人[12]提出了物理信息机器学习(PIML)算法框架。该框架创新地将机器学习和物理机理模型相结合,使得在少量训练数据的情况下,也能训练出满足物理规律约束条件的模型,既保证了模型的预测精度,又提升了其泛化性能。其中,物理信息神经网络(PINNs)是该框架的重要组成部分,它通过自动微分技术将偏微分方程及其定解条件嵌入到损失函数中,以确保模型的输出严格满足物理规律[13–15]。根据不同问题的求解需求,学者们还提出了PINNs的多种变体形式,如变分型vPINNs、贝叶斯型BPINNs、守恒型cPINNs等[16–18],并开发了相应的PINNs软件库,如DeepXDE、NeuralPDE等[19–20],进一步推动了PINNs在渗流力学、流体力学和材料力学等领域的应用[21–22]。目前,国内关于物理信息神经网络在CO2地质封存领域的研究尚显薄弱。笔者经过深入广泛的调研,提出了适用于CO2地质封存的物理信息神经网络(CCS-PINNs)结构,并构建了2种模型进行案例验证,为PINNs在CO2地质封存领域的应用提供了技术支撑。
1. CCS-PINNs的基本原理
封存CO2于枯竭油藏的过程中,忽略地应力、毛细管力及相关的地球化学反应,而仅聚焦于水和CO2的两相渗流过程,那么,结合质量守恒方程与达西定律,得到两相渗流的偏微分方程(PDEs)[23]:
ϕ∂Sw∂t−∇⋅[KKrwμw(∇p−ρwgD)]−qw=0 (1) ϕ∂Sg∂t−∇⋅[KKrgμg(∇p−ρggD)]−qg=0 (2) 其中Sw+Sg=1 (3) 式中:
ϕ 为油藏的孔隙度;Sw为含水饱和度;t为时间,d; K为油藏绝对渗透率,mD;Krw为水相相对渗透率;μw为水的黏度,mPa·s;p为油藏压力,MPa;ρw 为水密度,kg/m³;g为重力加速度,m/s²;D为深度,m;qw为产水量,m3/d;Sg为含气饱和度;Krg为气相相对渗透率;μg为气体的黏度,mPa·s;ρg 为气体密度,kg/m³;qg为注气量,m3/d。CCS-PINNs 将式(1)和式(2)直接嵌入到深度神经网络的损失函数中,以确保模型预测结果不仅符合训练数据分布,还严格遵循两相渗流规律,因此,模型的预测精度和泛化能力得到了提高;尤其在数据稀疏或缺乏的情况下,CCS-PINNs 通过物理约束避免了过拟合问题,确保了预测的可靠性;同时,与传统的数值解法相比,CCS-PINNs 不需要进行网格化处理。传统方法依赖网格划分和PDEs的离散,在高维和复杂几何结构情况下会导致计算复杂度大幅增加。而 PINNs 通过自动微分技术,直接计算PDEs的偏导数项,从而避免了网格化处理过程,提高了计算效率。CCS-PINNs的网络结构如图1所示。
首先,构建一个深度神经网络,输入包括时间(t)、网格节点坐标(x,y,z),以及网格节点处的孔隙度、绝对渗透率和CO2的注入速度;然后,通过深度神经网络估算出油藏压力
ˆp 、CO2饱和度ˆSg (即羽流分布)和产水量ˆqw 。在此基础上,利用自动微分技术获取油藏压力和CO2饱和度的偏导数,进而根据式(1)和式(2)求出残差约束:f1(ui;θ)=ϕ∂ˆSw∂t−∇⋅[KKrwμw(∇ˆp−ρwgD)]−ˆqw=0 (4) f2(ui;θ)=ϕ∂ˆSg∂t−∇⋅[KKrwμw(∇ˆp−ρggD)]−qg=0 (5) 式中:ui = (xi, yi, zi, ti),代表空间坐标和时间;θ为神经网络优化参数;
f1(ui;θ) 为水相渗流方程残差;f2(ui;θ) 为气相渗流方程残差。将式(4)和式(5)的残差作为正则项加入损失函数中,可得:
L(θ)=wdataL(θ)data+wPDEL(θ)PDE (6) 式中:wdata和wPDE为两类误差的权重系数,是两类误差在损失函数所占的比例;
L(θ)data 为神经网络预测值与观测值之间的均方差;L(θ)PDE 为偏微分方程残差的均方差。L(θ)data 的定义为:L(θ)data=1NN∑i=1{[ˆp(ui;θ)−p(ui)]2+[ˆSg(ui;θ)−Sg(ui)]2}+1TT∑i=1[ˆqw(ui;θ)−qw(ui)]2 (7) 式中:N为观测值的样本数;T为产水量的样本数。
L(θ)PDE 定义为:L(θ)PDE=1MM∑i=1{[f1(ui;θ)]2+[f2(ui;θ)]2} (8) 式中,M为偏微分方程的样本数。
最后,CCS-PINNs模型训练过程中采用梯度下降法等优化算法不断调整参数,使损失函数L(θ)的值小于设定的误差ε,从而得到最优的神经网络参数,并据此估算出地层压力场、CO2羽流分布及产水量。
2. 模型验证
2.1 数据准备
利用CMG模拟器生成了CCS-PINNs模型的训练数据。其中,设定油藏模型埋深为
2260 m ,初始压力为24 MPa;模型由25×1×3个网格构成,其中x和y方向的网格总长度为91.0 m,z方向的网格总长度为3.4 m。网格坐标(13, 1)和(23, 1)处,分别设置了一口CO2注入井和一口产水井,设置产水井是为了排出因注入CO2而被置换出的水,降低地层压力和保持盖层的完整性。为了探究地质模型不确定性对CO2羽流分布预测的影响,优选了3个地质模型M1、M2和M3,其孔隙度空间分布情况如图2所示。3种地质模型的渗透率和孔隙度分布情况如图3所示。从图3可以看出,模型的最大渗透率约60 mD,模型M1渗透率小于10 mD的比例约为65%,模型M2约为50%,模型M3约为58%;模型的最大孔隙度为0.36,模型M1孔隙度小于0.06的比例约为38%,模型M2约为23%,模型M3约为37%。
在其他参数保持不变的前提下,选取9个不同的CO2注入速度,构建了27个CO2埋存油藏模型。完成CO2封存的数值模拟后,输出模型随时间变化的产水量、地层压力场及CO2羽流的空间分布数据。对27个模型进行了2年的模拟,并每隔半个月(共计48个时间步)保存一次输出数据。随后,从M1、M2、M3这3组模型中随机各选取1个模型作为测试模型,其余24个模型及其输出数据用作训练集(见图4)。
2.2 渗流物理约束的神经网络模型
2.2.1 多层感知神经网络模型
多层感知神经网络(multilayer perceptron, MLP)是一种典型的前馈式人工神经网络结构,由多个神经元层组成,每一层都与相邻层存在全连接关系。MLP中,每个神经元都与前一层的所有神经元紧密相连,通过权重调节信号传递的强度,接收输入后经过激活函数进行非线性转换,再将输出传递给下一层,直至产生最终输出。MLP的核心特征是隐藏层,它们位于输入层和输出层之间,使网络能够学习非线性模式和复杂的特征表示。隐藏层的数量和每层神经元的数量都可以根据问题的复杂性和数据特性进行灵活设计。训练MLP时,通常使用反向传播算法,通过最小化损失函数来更新权重,使网络输出与目标输出之间的差距最小化,迭代过程中需要不断地调整权重和更新网络参数,以使网络逐渐优化并学习到输入数据中的潜在模式[24]。依据CCS-PINNs网络结构,构建了多层感知器模型(MLP)及融入了渗流物理约束的多层感知器模型(PINN-MLP)。这个神经网络模型采用了包含5个节点的输入层、5个隐藏层(各隐藏层神经元数量依次为128,64,32,16和8个)及3个节点的输出层的结构。模型构建过程中,使用了Python编程语言中的Tensorflow和Keras工具包。对于隐藏层节点的激活函数,统一设置为ReLU函数。
2.2.2 长短期记忆神经网络模型
长短期记忆神经网络(LSTM)是一种特殊的循环神经网络(RNN),特别适用于处理具有时间序列或时序性质的数据。LSTM网络通过引入特殊的记忆单元和门控机制,有效解决了传统RNN在长序列任务中的梯度消失和梯度爆炸问题,实现了长期记忆和信息流的有效控制。考虑地层压力和CO2羽流空间分布均随时间的变化,采用LSTM网络进行建模更为合适,因为它能够更好地预测地层压力及CO2羽流随时间的演化[25]。LSTM模型和渗流物理约束的LSTM模型(PINN-LSTM)均采用5个节点的输入层,随后是2个LSTM层(分别包含128,64个神经元),接着是1个包含32个神经元的隐藏层,最后是3个节点的输出层。模型输入包括当前及前3个时间点的时间、位置、孔隙度、渗透率和注入速度。
3. 模型训练与预测效果分析
3.1 模型训练
采用24个油藏模型及其模拟结果构建4种神经网络模型:1)纯数据驱动的多层感知神经网络模型(MLP)。基于多层感知神经网络结构预测CO2羽流分布、迁移和压力场等参数。2)纯数据驱动的长短期记忆神经网络模型(LSTM)。采用长短期记忆神经网络结构预测CO2羽流分布、迁移和压力场等参数。3)渗流物理约束的多层感知神经网络模型(PINN-MLP)。基于多层感知的神经网络结构与渗流物理约束条件结合,能同时考虑数据驱动和渗流物理约束,提高预测的准确性和可靠性。4)渗流物理约束的长短期记忆模型(PINN-LSTM)。长短期记忆神经网络结构与渗流物理约束条件结合,能兼顾时间序列数据和时序长期的依赖关系。
每个模型的主要结构、层数、神经元数量及激活函数等主要参数已在前文给出,使用Adam优化算法进行训练,学习率设定为10−4,批量大小为250,并对模型进行了450个epoch的训练。模型训练过程中,只会在生产井位置进行产水预测,因此,只有当模型预测的位置与生产井位置相对应时,才会将产水量作为模型的预测结果,否则将其设置为0。产水量是渗流偏微分方程中一个重要参数,为了保证数据样本的平衡,训练CCS-PINNs模型时使用了过采样的方法,增加了注入井和生产井位置处的数据样本。PINN-LSTM模型训练过程中,观察到总均方误差的波动趋势与2个渗流方程的残差波动趋势相似。这一现象表明,模型的训练过程满足渗流方程所设定的物理约束条件。
3.2 模型预测效果分析
利用已经训练完成的4种模型,预测了M2测试地质模型的CO2羽流分布。4种模型在24个月后的预测结果如图5所示。图中,MLP代表纯数据驱动的多层感知神经网络预测模型;PINN-MLP代表融入了渗流物理约束的多层感知神经网络预测模型;LSTM代表纯数据驱动的长短期记忆神经网络预测模型;PINN-LSTM则代表融入了渗流物理约束的长短期记忆神经网络预测模型。图中的横坐标代表x方向的网格,而y坐标则代表z方向的网格。图中红色区域表示CO2饱和度较高(对应色标1的颜色),而蓝色区域则表示CO2饱和度较低(对应色标0的颜色)。另外,偏差图中,红色表示预测偏差较大,颜色接近蓝色则表示预测偏差较小。
从图5可以看出:仅基于MLP和LSTM的纯数据驱动模型在CO2羽流分布预测方面表现相对较差;融入渗流物理约束形成的PINN-MLP和PINN-LSTM模型,其预测结果显著优于纯数据驱动模型,特别是PINN-LSTM模型的预测结果与数值模拟结果高度接近,预测精度极高。LSTM的记忆单元和门控机制使其能够有效捕捉CO2羽流的时序依赖关系,而渗流物理约束则进一步增强了神经网络模型对CO2地质封存系统物理行为的适应能力,从而提高了预测的准确性和可靠性,为CO2地质封存提供了有力的技术支持。
PINN-LSTM模型经过不同时间(即6,12,18和 24个月)时的CO2羽流预测结果及其预测偏差如图6所示。从图6可以看出,PINN-LSTM模型在不同的时间点上都能够较为准确地预测CO2的羽流分布,表明该模型具有良好的预测能力,进一步验证了PINN-LSTM模型在CO2地质封存领域应用的可行性。通过捕捉渗流物理规律并结合深度神经网络模型,该模型能够预测CO2羽流的迁移过程。
利用4种经过训练的模型预测测试地质模型2的地层压力场,结果如图7所示。为了便于比较和分析,图中的压力值进行了归一化处理。从图7可以看出,PINN-LSTM模型通过融合渗流物理规律与深度神经网络模型,在预测地层压力场方面表现出更优越的性能。
利用PINN-LSTM模型预测不同时刻的归一化压力场及其预测偏差,结果如图8所示。从图8可看出,在CO2注入的不同时刻,PINN-LSTM模型的预测结果均具有较高的准确性。这表明,通过结合渗流物理规律和深度神经网络模型,PINN-LSTM模型能够更好地捕捉地层中压力场的变化趋势。
4. 结论与建议
1)结合模拟数据与渗流物理规律,提出了基于PINNs的CO2羽流分布预测方法。该方法考虑渗流物理约束,设计了2种深度神经网络模型结构,并将两相渗流的物理信息以偏微分形式融入神经网络中,实现了对CO2羽流分布的准确预测。
2)与纯数据驱动的深度神经网络模型相比,CCS-PINNs模型具有更高的预测精度,并且对数据的依赖性更低,解决了深度学习模型在数据稀疏情况下应用时所面临的难题。
3)目前基于PINNs的CO2羽流分布预测方法忽略了油藏中剩余油对CO2羽流分布的重要影响,需要在这方面进行深入研究。建议采用组分模型来更精确地描述CO2与原油之间的相互作用,包括溶解、膨胀、降黏等复杂过程,使预测结果更加贴近枯竭油藏的实际条件,提高预测的准确性。
-
-
[1] 周守为,朱军龙. 助力“碳达峰、碳中和”战略的路径探索[J]. 天然气工业,2021,41(12):1–8. doi: 10.3787/j.issn.1000-0976.2021.12.001 ZHOU Shouwei, ZHU Junlong. Exploration of ways to helping “Carbon Peak and Neutrality” strategy[J]. Natural Gas Industry, 2021, 41(12): 1–8. doi: 10.3787/j.issn.1000-0976.2021.12.001
[2] 霍宏博,刘东东,陶林,等. 基于CO2提高采收率的海上CCUS完整性挑战与对策[J]. 石油钻探技术,2023,51(2):74–80. HUO Hongbo, LIU Dongdong, TAO Lin, et al. Integrity challenges and countermeasures of the offshore CCUS based on CO2-EOR[J]. Petroleum Drilling Techniques, 2023, 51(2): 74–80.
[3] 杨术刚,李兴春,蔡明玉,等. 国外CO2地质封存管理制度、标准体系分析及其启示[J]. 天然气工业,2023,43(12):130–137. YANG Shugang, LI Xingchun, CAI Mingyu, et al. Overseas management systems and standards for CO2 geological storage and their implications for China[J]. Natural Gas Industry, 2023, 43(12): 130–137.
[4] 柏明星,张志超,白华明,等. 二氧化碳地质封存系统泄漏风险研究进展[J]. 特种油气藏,2022,29(4):1–11. BAI Mingxing, ZHANG Zhichao, BAI Huaming, et al. Progress in leakage risk study of CO2 geosequestration system[J]. Special Oil & Gas Reservoirs, 2022, 29(4): 1–11.
[5] 李凤霞,王海波,周彤,等. 页岩油储层裂缝对CO2吞吐效果的影响及孔隙动用特征[J]. 石油钻探技术,2022,50(2):38–44. LI Fengxia, WANG Haibo, ZHOU Tong, et al. The influence of fractures in shale oil reservoirs on CO2 huff and puff and its pore production characteristics[J]. Petroleum Drilling Techniques, 2022, 50(2): 38–44.
[6] 李阳,王敏生,薛兆杰,等. 绿色低碳油气开发工程技术的发展思考[J]. 石油钻探技术,2023,51(4):11–19. LI Yang, WANG Minsheng, XUE Zhaojie, et al. Thoughts on green and low-carbon oil and gas development engineering technologies [J]. Petroleum Drilling Techniques, 2023, 51(4): 11–19.
[7] 张涛,杨若凡,常文杰,等. CO2伴生气混合过程的数值模拟研究[J]. 西南石油大学学报(自然科学版),2023,45(3):143–153. ZHANG Tao, YANG Ruofan, CHANG Wenjie, et al. Numerical simulation of CO2 associated gas mixing process[J]. Journal of Southwest Petroleum University(Science & Technology Edition), 2023, 45(3): 143–153.
[8] 赵鹏,朱海燕,张丰收. CO2增强页岩气开采及地质埋存的三维数值模拟[J]. 天然气工业,2024,44(4):104–114. ZHAO Peng, ZHU Haiyan, ZHANG Fengshou. Three-dimensional numerical simulation of CO2 injection to enhance shale gas recovery and geological storage[J]. Natural Gas Industry, 2024, 44(4): 104–114.
[9] LI Dong, PENG Suping, GUO Yinling, et al. CO2 storage monitoring based on time-lapse seismic data via deep learning[J]. International Journal of Greenhouse Gas Control, 2021, 108: 103336. doi: 10.1016/j.ijggc.2021.103336
[10] SINHA S, DE LIMA R P, LIN Youzuo, et al. Normal or abnormal? Machine learning for the leakage detection in carbon sequestration projects using pressure field data[J]. International Journal of Greenhouse Gas Control, 2020, 103: 103189. doi: 10.1016/j.ijggc.2020.103189
[11] ZHONG Zhi, SUN A Y, YANG Qian, et al. A deep learning approach to anomaly detection in geological carbon sequestration sites using pressure measurements[J]. Journal of Hydrology, 2019, 573: 885–894. doi: 10.1016/j.jhydrol.2019.04.015
[12] KARNIADAKIS G E, KEVREKIDIS I G, LU Lu, et al. Physics-informed machine learning[J]. Nature Reviews Physics, 2021, 3(6): 422–440. doi: 10.1038/s42254-021-00314-5
[13] RAISSI M, PERDIKARIS P, KARNIADAKIS G E. Physics-informed neural networks: a deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations[J]. Journal of Computational Physics, 2019, 378: 686–707. doi: 10.1016/j.jcp.2018.10.045
[14] 赵暾,周宇,程艳青,等. 基于内嵌物理机理神经网络的热传导方程的正问题及逆问题求解[J]. 空气动力学学报,2021,39(5):19–26. ZHAO Tun, ZHOU Yu, CHENG Yanqing, et al. Solving forward and inverse problems of the heat conduction equation using physics-informed neural networks[J]. Acta Aerodynamica Sinica, 2021, 39(5): 19–26.
[15] 李野,陈松灿. 基于物理信息的神经网络:最新进展与展望[J]. 计算机科学,2022,49(4):254–262. LI Ye, CHEN Songcan. Physics-informed neural networks: recent advances and prospects[J]. Computer Science, 2022, 49(4): 254–262.
[16] JAGTAP A D, KHARAZMI E, KARNIADAKIS G E. Conservative physics-informed neural networks on discrete domains for conservation laws: applications to forward and inverse problems[J]. Computer Methods in Applied Mechanics and Engineering, 2020, 365: 113028. doi: 10.1016/j.cma.2020.113028
[17] KHARAZMI E, ZHANG Zhongqiang, KARNIADAKIS G E M. hp-VPINNs: variational physics-informed neural networks with domain decomposition[J]. Computer Methods in Applied Mechanics and Engineering, 2021, 374: 113547. doi: 10.1016/j.cma.2020.113547
[18] YANG Liu, MENG Xuhui, KARNIADAKIS G E. B-PINNs: Bayesian physics-informed neural networks for forward and inverse PDE problems with noisy data[J]. Journal of Computational Physics, 2021, 425: 109913. doi: 10.1016/j.jcp.2020.109913
[19] LU Lu, MENG Xuhui, MAO Zhiping, et al. DeepXDE: a deep learning library for solving differential equations[J]. SIAM Review, 2021, 63(1): 208–228. doi: 10.1137/19M1274067
[20] RACKAUCKAS C, NIE Qing. DifferentialEquations. jl: a performant and feature-rich ecosystem for solving differential equations in Julia[J]. Journal of Open Research Software, 2017, 5: 15. doi: 10.5334/jors.151
[21] 薛亮,戴城,韩江峡,等. 油藏渗流物理和数据联合驱动的深度神经网络模型[J]. 油气地质与采收率,2022,29(1):145–151. XUE Liang, DAI Cheng, HAN Jiangxia, et al. Deep neural network model driven jointly by reservoir seepage physics and data[J]. Petroleum Geology and Recovery Efficiency, 2022, 29(1): 145–151.
[22] SHOKOUHI P, KUMAR V, PRATHIPATI S, et al. Physics-informed deep learning for prediction of CO2 storage site response[J]. Journal of Contaminant Hydrology, 2021, 241: 103835. doi: 10.1016/j.jconhyd.2021.103835
[23] EBIGBO A, CLASS H, HELMIG R. CO2 leakage through an abandoned well: problem-oriented benchmarks[J]. Computational Geosciences, 2007, 11(2): 103–115. doi: 10.1007/s10596-006-9033-7
[24] LALLAHEM S, MANIA J, HANI A, et al. On the use of neural networks to evaluate groundwater levels in fractured media[J]. Journal of Hydrology, 2005, 307: 92–111.
[25] HOCHREITER S, SCHMIDHUBER J. Long short-term memory[J]. Neural Computation, 1997, 9(8): 1735–1780. doi: 10.1162/neco.1997.9.8.1735