Inversion of Azimuthal Electromagnetic Wave Resistivity LWDBased on Deep Residual Network
-
摘要:
随钻方位电磁波电阻率测井可以提供丰富的地下信息,帮助完成储层位置确定和边界探测等任务,但常用的基于物理方程的迭代反演方法计算效率较低,在实时地质导向中受到诸多限制。为此,提出了一种基于深度残差网络的随钻方位电磁波电阻率测井资料智能反演方法。该方法将残差块中的卷积层和池化层替换为全连接层,并使用多头注意力机制来理解输入数据的关联性,以解决非线性回归问题;通过评估模型深度和宽度,并使用贝叶斯超参数调优算法找到随钻电磁波电阻率反演方法中最优的超参数,以提高反演模型的性能。该方法在模型试验中的平均准确率达到98.5%;在实际测井资料的平均准确率达到97.2%,单点反演时间约为0.01 s。研究表明,随钻方位电磁波电阻率测井反演方法能够快速准确地反演测井资料。
Abstract:Azimuthal electromagnetic wave resistivity logging while drilling(LWD) can provide abundant subsurface information and help to determine reservoir location and complete boundary detection. However, the common iterative inversion method based on physical equations has low computational efficiency and is limited in real-time geosteering. Therefore, an intelligent inversion method of azimuthal electromagnetic wave resistivity logging data based on a deep residual network (ResNet) was proposed. The method replaced the convolution and pooling layers in the residual block with fully connected layers and used a multi-head attention mechanism to understand the relevance of the input data, so as to solve the nonlinear regression problem. By evaluating the depth and width of the model and using a Bayesian optimization tuning algorithm to find the optimal hyperparameters of the electromagnetic wave resistivity inversion method, the performance of the inversion model was improved. The method showed good accuracy in model experiments, with an average accuracy of 98.5%. In the actual logging data, the average accuracy rate was 97.2%, and the single point inversion time was about 0.01 s. Intelligent inversion method of azimuthal electromagnetic wave resistivity logging data could quickly and accurately invert the azimuthal electromagnetic wave resistivity logging data.
-
随钻方位电磁波电阻率测井是地球物理勘探中重要的测量方法之一。大斜度井和水平井钻井过程中,通过对随钻方位电磁波电阻率测井仪器所获得的测井资料进行反演,获得有关地层参数的信息[1]。这些信息对于井下找到储层位置分布和边界探测等任务至关重要,有助于提高油田的投资回报率[2]。
为了得到测井资料中所包含的地层信息,需要构建有效的反演方法。目前常用的电磁波电阻率反演方法是基于最小二乘理论的最优化反演方法[3–4],包括牛顿法[5]、梯度下降法[6]和高斯牛顿法[7]等。这类方法首先需要设定初始模型,通过反复迭代来降低输出地层信息与真实信息之间的误差,并根据误差不断地更新反演模型,直至达到收敛要求。这类方法存在计算效率低、多解性和初始模型依赖等问题[8],在实际应用中受到较多限制。
近年来,深度学习技术飞速发展,凭借其出色的非线性处理能力,在计算机视觉、信号处理等领域取得了显著成果[9–11]。在随钻方位电磁波电阻率测井领域,深度学习也为其提供了新思路。Zhu Gaoyang等人[12]提出了一种基于深度学习的新方法,用于解决分层各向异性地层中电磁波电阻率数据反演的耗时问题,并在模拟数据中取得了显著效果。M. Shahriari等人[13]利用深度学习设计用于地质导向的测井仪器,在钻井作业期间收集数据并能够提供周围地层的实时信息。Fan Jianbao等人[14]采用基于BiLSTM结构的深度神经网络进行电磁波电阻率测井数据的反演,并对反演参数的不确定性进行估计,以去除低质量的反演边界。以上研究表明,深度学习在随钻方位电磁波电阻率测井领域有广阔的应用场景。
ResNet作为一种深度残差神经网络架构[15],通过引入残差块解决了深度神经网络中的梯度消失问题,从而能够构建更深的模型,并提高其性能和准确性。为此,笔者提出了一种改进的基于ResNet的深度学习反演方法。具体来讲,首先,将残差块内的卷积层和池化层替换为全连接层,并结合多头注意力机制[16]来提取其特征;然后,考虑了不同深度学习网络的宽度与深度对反演方法性能的影响,并通过系统性分析选取了最佳的模型配置;为了进一步优化模型,采用贝叶斯超参数调优算法[17]来确定网络的最优参数;最后,利用合成数据和真实数据对该反演模型进行了验证,以评估其准确性和计算效率。
1. 数据集的建立
1.1 地层模型
数据集是通过正演模拟仪器在不同的3层各向同性地层中得到的,3层各向同性地层模型如图1所示。在3层各向同性地层中,上围岩、目的层、下围岩的电阻率分别为Rup,Rmid和Rdn,仪器到目的层与上、下围岩边界的距离分别为Dup和Ddn。
1.2 正演模拟
随钻方位电磁波电阻率测井仪器线圈如图2所示。该仪器的全对称结构用于实现常规电阻率测量,倾斜发射−倾斜接收的双斜正交线圈系用于方位电磁信息测量,线圈系可同时测量地质信号[18]。同时,基于赫兹势函数法求解各向同性介质中的麦克斯韦方程组,对解中的指数增大项进行了改造,并消除系数递推矩阵中的溢出因子,使递推过程完全收敛,其具有计算效率高、优势大和易于实施等优势[19]。采用赫兹势函数法,能够有效获得该仪器在3层各向同性地层模型中的响应。
赫兹势函数正演模拟公式见式(1),推导可获得空间中任意点的场。
eξh,mhm+⋯+eξh,N−1hN−12N−mˆGm⋯ˆGN−1[AN0]−eξh,mhm+⋯+eξh,2h22m−1ˇGm−1⋯ˇG1[0B1]=eξh,mhm[βmξh,me−ξh,m|zm−z0|−βmξh,meξh,m(zm−1−z0)] (1) 其中hm=zm−zm−1 (2) ξh,m=√k2ρ−k2h,m (3) k2h,m=iωμσ∗h,m (4) 式中:
hm 为第m 层层厚,m;z0,zm,zm−1 分别表示第0、第m和第m−1 个界面深度,m;kρ为积分变量;i为虚数单位;μ 为介质磁导率,H/m;ω 为角速度,rad/s;σh,m 为第m层水平方向电导率,S/m;βm 为第m 层中的源符号(该层中含有源项时βm=1 ,不含源项时βm=0 );AN 为赫兹势在第N 个界面处向上传播的波幅,m;B1 为赫兹势在第1 个界面处向下传播的波幅,m;ˆGm和ˇGm−1 的定义见式(5)和式(6)。ˆGm=[(μm+1μm+ξh,m+1ξh,m)(μm+1μm−ξh,m+1ξh,m)e−ξh,m+1hm+1(μm+1μm−ξh,m+1ξh,m)e−ξh,mhm(μm+1μm+ξh,m+1ξh,m)e−ξh,mhm−ξh,m+1hm+1] (5) ˇGm−1=[(μm−1μm+ξh,m−1ξh,m)e−ξh,m−1hm−1−ξh,mhm(μm−1μm−ξh,m−1ξh,m)e−ξh,mhm(μm−1μm−ξh,m−1ξh,m)e−ξh,m−1hm−1(μm−1μm+ξh,m−1ξh,m)] (6) 1.3 数据集的生成
为了构建不同的3层各向同性地层模型,并确保电阻率和仪器距上下界面距离的取值在合理区间内,进行了如下设置:1)电阻率Rup和Rdn设置为1,3和5 Ω·m,并将Rmid的范围设置为5~30 Ω·m,步长为2 Ω·m;2)Dup和Ddn的范围设置为0~12 m,步长为0.10 m。通过对不同电阻率和仪器距上下界面距离进行组合,得到不同的3层各向同性地层模型。表1为其中生成的8个模型输入和2个模型输出结果,由此得到了422 629个样本(其中训练集占98%,验证集和测试集各占1%)。
表 1 模型输入和输出结果Table 1. Model input and output results模型输入 模型输出 电阻率信号 地质信号 反演参数 高频558.8 mm源距相位差电阻率(RP22H) 中频2 082.8 mm源距幅度比地质信号(GA82M) 仪器距上界面距离(Dup) 中频914.4 mm源距相位差电阻率(RP36M) 中频2 438.4 mm源距幅度比地质信号(GA96M) 仪器距下界面距离(Ddn) 中频1 524.0 mm源距相位差电阻率(RP60M) 低频2 082.8 mm源距相位差地质信号(GP82L) 低频1 524.0 mm源距相位差电阻率(RP60L) 低频2 438.4 mm源距相位差地质信号(GP96L) 2. 随钻方位电磁波电阻率反演模型
2.1 反演方案
使用正演数据作为反演模型的输入数据,输入的数据通过多层线性层和多头注意力机制来更好地理解数据之间的关联性,并利用线性层输出反演参数,即仪器到目的层与上、下围岩边界的距离。本研究主要针对模型结构和模型优化方面作出改进,改进的ResNet模型如图3所示(图3中,h为注意力数,q为查询,k为键,v为值)。
2.2 模型结构
2.2.1 展平卷积层
非线性函数通常以一维向量作为输入数据,而ResNet中的卷积是一种局部操作。这意味着,如果将向量重塑为矩阵,卷积核将仅影响序列的一部分,无法影响整个序列。这与随钻方位电磁波电阻率测井数据反演任务中的非线性回归相矛盾[20]。
为解决这一问题,将ResNet中的卷积层和池化层替换为剩余块中的全连接层,如图4所示(左侧的残差块和密集块是原ResNet模型结构模块,右侧的为改进后的ResNet模型结构模块)。
随钻方位电磁波电阻率测井资料反演过程中,假设输入矩阵大小为
n ,卷积核大小为f ,步长为s ,填充为p ,输出通道数为m ,那么卷积层的输出矩阵大小x 可以表示为:x=(n−f+2ps+1)m (7) 如果所得到的
x 是一个小数,则需要向下取整。类似地,若池化层的输入矩阵大小为
n ,池化窗大小为k ,步长为s ,输出通道数为m ,那么池化层的输出矩阵大小为:x=(n−ks+1)m (8) 同样地,如果所得到的
x 是一个小数,也需要向下取整。将卷积层和池化层替换为全连接层时,需要将输入数据展开为一维向量,并使用一个权重矩阵
\boldsymbol{W} 和偏置向量\boldsymbol{b} 对其进行线性变化。具体而言,输出向量\boldsymbol{y} 可以表示为:\boldsymbol{y}=\boldsymbol{W}\boldsymbol{x}+\boldsymbol{b} (9) 式中:
\boldsymbol{x} 为输入数据展开后的向量;\boldsymbol{y} 为输出向量;\boldsymbol{W} 为大小为m 的权重矩阵;\boldsymbol{b} 为大小为m 的偏置矩阵。因此,为解决随钻方位电磁波电阻率测井反演中的非线性回归问题,将改进后的ResNet输出压缩为一维向量,使其适用于随钻方位电磁波电阻率测井反演任务。
2.2.2 多头注意力机制
在改进的ResNet模型中,使用了多头注意力机制(如图5所示),以便在编码当前位置信息时,不会过度关注自身的位置。不同于仅使用注意力池化,多头注意力机制使用了h组不同的线性投影,分别用于变换查询(q)、键(k)和值(v)[21]。这些变换后的查询,键和值将并行进行注意力池化,并将h个注意力的输出拼接在一起,通过另一个可学习的线性投影进行变换,产生最终的输出结果。
在随钻方位电磁波电阻率测井问题中,将多头注意力机制应用于特征提取过程中,以便利用输入特征的信息。假设给定查询
q\in {R}^{{d}_{q}} 、键k\in {R}^{{d}_{k}} 和值v\in {R}^{{d}_{v}} ,R 为实数集合,{d}_{q},{d}_{k}\mathrm{和}{d}_{v} 分别表示注意力机制中查询、键和值的维度,每个注意力头{h}_{i}(i= \mathrm{1,2},\dots ,h) 的计算方式可表示为:h_i=F\left(\boldsymbol{W}_i^{\left(q\right)}q,\boldsymbol{W}_i^{\left(k\right)}k,\boldsymbol{W}_i^{\left(v\right)}v\right)\in R^{P_v} (10) 式(10)中,可学习的参数包括
{\boldsymbol{W}}_{i}^{\left(q\right)}\in {R}^{{P}_{q} \times{d}_{q}} 、{\boldsymbol{W}}_{i}^{\left(k\right)}\in {R}^{{P}_{k}\times {d}_{k}} 和{\boldsymbol{W}}_{i}^{\left(v\right)}\in {R}^{{P}_{v}\times{d}_{v}} ,P 表示投影矩阵的维度,W表示可学习的参数矩阵,以及代表注意力池化的函数F ,可以是加性注意力和缩放的“点−积”注意力。多头注意力的输出需要经过另一个线性变换,它对应着h 个头拼接后的结果,因此其可学习参数为{\boldsymbol{W}}_{0}\in {R}^{{P}_{0} \times{h}_{Pv}} 。基于这种设计能使每个头都可以关注输入的不同部分,从而表示更为复杂的函数,而非简单的加权平均。这有利于随钻方位电磁波电阻率测井问题的进一步处理。
2.3 模型优化
在随钻方位电磁波电阻率测井反演中,模型的深度、宽度和超参数设置是优化模型性能的2个重要方面。正确选择模型的深度、宽度和超参数可以显著提高模型的性能,从而最大化模型的效益[22]。
2.3.1 模型深度和宽度评估
模型的深度和宽度会影响模型的非线性表达能力和学习复杂特征的能力[23]。为了评估模型对随钻方位电磁波电阻率反演性能的影响,需要先固定一个参数,然后分析另一个参数的影响。在验证模型宽度和深度的影响之前,需要将网络中的其他参数固定。
首先,隐藏层的宽度保持不变,探究深度对模型的影响。表2为模型深度评估结果。
表 2 模型深度评估结果Table 2. In-depth evaluation results of the model模型深度 早停轮次 训练时间/
h训练损失/
10−3验证损失/
10−310 60 2.50 8.456 1 5.697 2 16 44 3.03 7.998 2 6.895 8 28 32 4.52 5.978 5 5.034 8 32 37 5.02 6.396 5 4.697 8 46 34 6.18 7.931 2 8.267 6 82 28 6.97 9.809 1 13.093 2 100 25 8.05 10.692 4 10.842 6 128 31 8.97 13.931 1 19.000 0 256 26 10.22 265.010 8 1 926.372 0 512 20 12.60 93.536 7 107.462 5 从表2可以看出:当神经网络深度小于50时,测试损失和验证损失都变化较小,差异不明显;而当深度等于或超过100时,训练和验证的损失大幅增加。对比这些数据,可以认为深度为32是该模型的最佳深度。
基于这个最佳深度,进一步探究宽度对模型的影响。表3为模型宽度评估结果。
表 3 模型宽度评估结果Table 3. Model width evaluation results模型宽度 早停轮次 训练时间/
h训练损失/
10−3验证损失/
10−31 100 26.70 266.275 9 269.357 6 4 100 11.58 17.688 6 17.462 8 8 100 10.18 8.785 1 9.462 0 16 80 6.03 3.767 8 3.686 8 20 67 6.92 4.867 1 4.072 5 24 54 4.93 1.494 3 1.470 1 30 38 3.98 1.472 4 1.025 7 50 47 5.18 1.836 8 1.768 0 80 76 7.32 3.695 2 6.396 5 100 89 8.52 7.533 7 6.816 3 从表3中数据可以看出,当宽度小于8时,训练和验证的损失较大;宽度取其他值时,训练和验证的损失差异不大。分析认为,该模型的最佳宽度为30。
2.3.2 贝叶斯超参数调优算法
贝叶斯超参数调优算法利用先验知识不断更新参数,以解决高维、非凸和黑箱函数的全局优化问题[24],同时考虑之前被忽略的参数信息。在模型超参数设置中,学习率、批量大小训练轮次对模型的性能有很重要的影响[25]。为了确定最佳超参数组合,以提高随钻方位电磁波电阻率反演效果[26],需要使用超参数调优算法。相较于其他方法,贝叶斯超参数调优算法迭代次数少、速度快,能够用最少的评估找出最佳超参数组合。
该方法首先需要定义一个目标函数
f\left(x\right) ,其中x 表示超参数的向量,即求解出能够使f\left(x\right) 最小化的超参数。具体地,以随钻方位电磁波电阻率测井数据为基础,将每个超参数看作一个随机变量,其先验分布为高斯分布,使用贝叶斯定理来更新这些超参数的后验分布。通过不断迭代,可以得到更准确的超参数估计,并得到联合后验分布P\left({\boldsymbol{X}}\right|D) (其中,{\boldsymbol{X}} 表示所有超参数构成的向量;D 为随钻方位电磁波电阻率测井数据)。在这个过程中,贝叶斯超参数调优算法通过最小化目标函数
f\left(x\right) 来找到最佳超参数配置。这个目标函数的具体形式可以根据实际需求而定,通常包括多个因素,如测井数据误差、模型复杂度等。通过不断调整超参数的值,使目标函数最小,即可得到最佳的超参数配置,从而实现更加准确的随钻方位电磁波电阻率反演模型。最后,使用采样方法,从联合后验分布中采样一些超参数配置,计算目标函数在这些配置上的值,找到最小值点。
通过贝叶斯超参数算法,经过100轮次迭代,得到最优的超参数:学习率为
0.0003 ,每个batch训练样本数量为468,轮次为92。3. 试验结果与分析
3.1 模型训练
首先,对训练集进行预处理。由于训练集中地质信号和电阻率在数值上相差几个数量级,需要对电阻率进行对数化处理,以便进行后续计算。然后,考虑训练集中存在离群值的情况,进行离群值的去除,以避免影响训练结果。最后,对数据进行归一化处理,以提高训练精度。
使用经过处理的训练集对模型进行训练。通过参考模型深度、宽度的设置和贝叶斯超参数算法,得到用于训练的模型参数。其中,模型的深度设置为32,宽度设置为30,学习率为
0.0003 ,每个batch训练样本数量为468,轮次为92。训练时长为3.6 h,训练损失为1.026 4×{10}^{-3} ,验证损失为0.925 7\times {10}^{-3} 。3.2 模型试验
图6为模型试验结果,即测量深度(以0.10 m为间隔)与仪器距上下界面距离之间的关系(图6中,橙色区域代表目的层,棕色区域代表上下围岩,红色线表示改进的ResNet反演结果,黑色线表示模型设置数据)。
图6中,对比改进的ResNet反演结果与模型设置数据,距离的平均绝对误差约为0.10 m,误差在0.20 m以内的分别占99.33%和98.90%。这表明,改进的ResNet反演结果具有较高的准确性。
3.3 真实数据试验
以某个背斜构造带上一口生产井的数据为例,测量深度1 725~2 002 m。这些数据是在实际钻进过程中,通过随钻方位电磁波电阻率测井仪器获取的。真实数据试验结果,即测量深度(以0.10 m为间隔)与仪器距上下界面距离之间的关系如图7所示(图7中,橙色区域、棕色区域、红色线的含义同图6,黑色线表示基于高斯牛顿法的迭代反演结果)。
图7中,对比改进的ResNet反演结果和基于高斯牛顿法的迭代反演结果,距离的平均绝对误差约为0.19 m,误差在0.50 m以内的分别占98.09%和98.34%。这表明,所提出的方法在真实数据情况下仍然能够保持较高的准确度。
ResNet反演方法在真实数据上反演单个样本所需时间约为0.01 s,而基于高斯牛顿法的迭代反演在真实数据上反演单个样本所需时间约为3 s,表明ResNet反演方法的反演速度更快,这为随钻方位电磁波电阻率测井数据实时反演提供了更高的可能性。
4. 结论与建议
1)改进的ResNet模型通过使用剩余块中的全连接层替代传统的卷积层和池化层,并结合多头注意力机制进行特征提取,可解决传统反演方法存在的多解性和对初始模型的依赖问题。该模型在保持反演结果质量的同时,将单点反演时间缩短至大约0.01 s。
2)当模型结构设置为深度32、宽度30,并采用学习率0.000 3、批量大小468及迭代次数92时,改进的ResNet模型能够有效处理非线性问题,并在保持与迭代反演方法相当的反演精度的同时大幅提高了计算效率。
3)建议通过提高训练集的模型精度和扩大样本规模,特别是增加地质模型的多样性,以进一步提升模型的反演精度和适应性。此外,可以考虑引入更先进的优化算法和技术,以增强模型的泛化能力和实际应用潜力。
-
表 1 模型输入和输出结果
Table 1 Model input and output results
模型输入 模型输出 电阻率信号 地质信号 反演参数 高频558.8 mm源距相位差电阻率(RP22H) 中频2 082.8 mm源距幅度比地质信号(GA82M) 仪器距上界面距离(Dup) 中频914.4 mm源距相位差电阻率(RP36M) 中频2 438.4 mm源距幅度比地质信号(GA96M) 仪器距下界面距离(Ddn) 中频1 524.0 mm源距相位差电阻率(RP60M) 低频2 082.8 mm源距相位差地质信号(GP82L) 低频1 524.0 mm源距相位差电阻率(RP60L) 低频2 438.4 mm源距相位差地质信号(GP96L) 表 2 模型深度评估结果
Table 2 In-depth evaluation results of the model
模型深度 早停轮次 训练时间/
h训练损失/
10−3验证损失/
10−310 60 2.50 8.456 1 5.697 2 16 44 3.03 7.998 2 6.895 8 28 32 4.52 5.978 5 5.034 8 32 37 5.02 6.396 5 4.697 8 46 34 6.18 7.931 2 8.267 6 82 28 6.97 9.809 1 13.093 2 100 25 8.05 10.692 4 10.842 6 128 31 8.97 13.931 1 19.000 0 256 26 10.22 265.010 8 1 926.372 0 512 20 12.60 93.536 7 107.462 5 表 3 模型宽度评估结果
Table 3 Model width evaluation results
模型宽度 早停轮次 训练时间/
h训练损失/
10−3验证损失/
10−31 100 26.70 266.275 9 269.357 6 4 100 11.58 17.688 6 17.462 8 8 100 10.18 8.785 1 9.462 0 16 80 6.03 3.767 8 3.686 8 20 67 6.92 4.867 1 4.072 5 24 54 4.93 1.494 3 1.470 1 30 38 3.98 1.472 4 1.025 7 50 47 5.18 1.836 8 1.768 0 80 76 7.32 3.695 2 6.396 5 100 89 8.52 7.533 7 6.816 3 -
[1] 岳喜洲,马明学,李国玉,等. 随钻方位电磁波电阻率测井技术与地质导向应用[J]. 测井技术,2021,45(2):122–127. YUE Xizhou, MA Mingxue, LI Guoyu, et al. Azimuthal electromagnetic wave resistivity logging while drilling technology and its application in geo-steering[J]. Well Logging Technology, 2021, 45(2): 122–127.
[2] 唐海全,肖红兵,李翠,等. 基于随钻测井的地层界面识别方法[J]. 天然气勘探与开发,2016,39(4):8–12. TANG Haiquan, XIAO Hongbing, LI Cui, et al. Methods to identify formation boundary based on logging-while-drilling[J]. Natural Gas Exploration and Development, 2016, 39(4): 8–12.
[3] 杨震,于其蛟,马清明. 基于拟牛顿法的随钻方位电磁波电阻率仪器响应实时反演与现场试验[J]. 石油钻探技术,2020,48(3):120–126. YANG Zhen, YU Qijiao, MA Qingming. Real time inversion and field test of LWD azimuthal electromagnetic waves based on quasi-Newton method[J]. Petroleum Drilling Techniques, 2020, 48(3): 120–126.
[4] 刘强,姚长利,郑元满. 基于阻尼最小二乘法的位场欧拉反演方法[J]. 地球物理学报,2019,62(10):3710–3722. LIU Qiang, YAO Changli, ZHENG Yuanman. Euler deconvolution of potential field based on damped least square method[J]. Chinese Journal of Geophysics, 2019, 62(10): 3710–3722.
[5] 张帅,何应付,伦增珉,等. 李-凯斯勒方程的牛顿–二分求解法[J]. 科学技术与工程,2022,22(18):7859–7865. ZHANG Shuai, HE Yingfu, LUN Zengmin, et al. Hybrid Newton-bisection algorithm for solving Lee-Kesler equation[J]. Science Technology and Engineering, 2022, 22(18): 7859–7865.
[6] 董长军,赵鹤鸣. 基于梯度下降法和自适应参数相结合的姿态解算方法[J]. 传感技术学报,2020,33(7):997–1002. DONG Changjun, ZHAO Heming. Attitude estimation based on gradient descent algorithmand adaptive parameters[J]. Chinese Journal of Sensors and Actuators, 2020, 33(7): 997–1002.
[7] 唐文秀,林虎,薛梓,等. 基于C编程实现高斯牛顿法求解激光跟踪干涉仪基站空间坐标[J]. 计量学报,2020,41(6):656–661. TANG Wenxiu, LIN Hu, XUE Zi, et al. Calculation of base station coordinate for tracking interferometer with Gauss-Newton algorithm realized by C#[J]. Acta Metrologica Sinica, 2020, 41(6): 656–661.
[8] 朱高阳. 基于深度学习的层状储层中随钻电磁波测井资料的正反演研究[D]. 济南:山东大学,2020. ZHU Gaoyang. Research on modeling and inversion of the LWD data in layered formations based on deep learning[D]. Jinan: Shandong University, 2020.
[9] 郑远攀,李广阳,李晔. 深度学习在图像识别中的应用研究综述[J]. 计算机工程与应用,2019,55(12):20–36. ZHENG Yuanpan, LI Guangyang, LI Ye. Survey of application of deep learning in image recognition[J]. Computer Engineering and Applications, 2019, 55(12): 20–36.
[10] 桂冠,王禹,黄浩. 基于深度学习的物理层无线通信技术:机遇与挑战[J]. 通信学报,2019,40(2):19–23. GUI Guan, WANG Yu, HUANG Hao. Deep learning based physical layer wireless communication techniques: opportunities and challenges[J]. Journal on Communications, 2019, 40(2): 19–23.
[11] 孙歧峰,李娜,段友祥,等. 基于长短期记忆神经网络的随钻地层倾角解释方法[J]. 石油勘探与开发,2021,48(4):843–850. SUN Qifeng, LI Na, DUAN Youxiang, et al. Logging-while-drilling formation dip interpretation based on long short-term memory[J]. Petroleum Exploration and Development, 2021, 48(4): 843–850.
[12] ZHU Gaoyang, GAO Muzhi, KONG Fanmin, et al. A fast inversion of induction logging data in anisotropic formation based on deep learning[J]. IEEE Geoscience and Remote Sensing Letters, 2020, 17(12): 2050–2054. doi: 10.1109/LGRS.2019.2961374
[13] SHAHRIARI M, HAZRA A, PARDO D. A deep learning approach to design a borehole instrument for geosteering[J]. Geophysics, 2022, 87(2): D83–D90. doi: 10.1190/geo2021-0240.1
[14] FAN Jianbao, ZHANG Wenxiu, CHEN Wenxuan, et al. Inversion based on deep learning of logging-while-drilling directional resistivity measurements[J]. Journal of Petroleum Science and Engineering, 2022, 208(Part D): 109677.
[15] TARG S, ALMEIDA D, LYMAN K. Resnet in Resnet: generalizing residual architectures[DB/OL]. (2016-03-25)[2023-04-18]. https://arxiv.org/abs/1603.08029.
[16] 朱张莉,饶元,吴渊,等. 注意力机制在深度学习中的研究进展[J]. 中文信息学报,2019,33(6):1–11. ZHU Zhangli, RAO Yuan, WU Yuan, et al. Research progress of attention mechanism in deep learning[J]. Journal of Chinese Information Processing, 2019, 33(6): 1–11.
[17] 崔佳旭,杨博. 贝叶斯优化方法和应用综述[J]. 软件学报,2018,29(10):3068–3090. CUI Jiaxu, YANG Bo. Survey on Bayesian optimization methodology and applications[J]. Journal of Software, 2018, 29(10): 3068–3090.
[18] 马明学,岳喜洲,李国玉. 基于倾斜发射–倾斜接收仪器结构进行随钻地质导向与地层各向异性评价[J]. 中国石油大学学报(自然科学版),2018,42(4):50–58. MA Mingxue, YUE Xizhou, LI Guoyu. Geosteering and anisotropic resistivity evaluation by using a tilted transmitter-tilted receiver tool structure[J]. Journal of China University of Petroleum (Edition of Natural Science), 2018, 42(4): 50–58.
[19] 岳喜洲,刘天淋,李国玉,等. 随钻方位电磁波测井响应快速正演方法与地质导向应用[J]. 地球物理学报,2022,65(5):1909–1920. YUE Xizhou, LIU Tianlin, LI Guoyu, et al. An analytically fast forward method of LWD azimuthal electromagnetic measurement and its geo-steering application[J]. Chinese Journal of Geophysics, 2022, 65(5): 1909–1920.
[20] 安鹏,曹丹平. 基于深度学习的测井岩性识别方法研究与应用[J]. 地球物理学进展,2018,33(3):1029–1034. AN Peng, CAO Danping. Research and application of logging lithology identification based on deep learning[J]. Progress in Geophysics, 2018, 33(3): 1029–1034.
[21] 马国庆,王泽坤,李丽丽. 基于自注意力机制深度学习的重磁数据网格化和滤波方法[J]. 石油地球物理勘探,2022,57(1):34–42. MA Guoqing, WANG Zekun, LI Lili. Gridding and filtering method of gravity and magnetic data based on self-attention deep learning[J]. Oil Geophysical Prospecting, 2022, 57(1): 34–42.
[22] 胡越,罗东阳,花奎,等. 关于深度学习的综述与讨论[J]. 智能系统学报,2019,14(1):1–19. HU Yue, LUO Dongyang, HUA Kui, et al. Overview on deep learning[J]. Journal of Intelligent Systems, 2019, 14(1): 1–19.
[23] 严春满,王铖. 卷积神经网络模型发展及应用[J]. 计算机科学与探索,2021,15(1):27–46. YAN Chunman, WANG Cheng. Development and application of convolutional neural network model[J]. Journal of Frontiers of Computer Science & Technology, 2021, 15(1): 27–46.
[24] 朱汇龙,刘晓燕,刘瑶. 基于贝叶斯新型深度学习超参数优化的研究[J]. 数据通信,2019(2):35–38. ZHU Huilong, LIU Xiaoyan, LIU Yao. Research on hyper-parameter optimization based on Bayesian deep learning[J]. Data Communications, 2019(2): 35–38.
[25] 梁立锋,刘秀娟,张宏兵,等. 超参数对GRU-CNN混合深度学习弹性阻抗反演影响研究[J]. 物探与化探,2021,45(1):133–139. LIANG Lifeng, LIU Xiujuan, ZHANG Hongbing, et al. A study of the effect of hyperparameters GRU-CNN hybrid deep learning EI inversion[J]. Geophysical and Geochemical Exploration, 2021, 45(1): 133–139.
[26] 吴浩楠. 超参数自动调优算法研究[D]. 哈尔滨:哈尔滨工业大学,2020. WU Haonan. Research on automatic hyper-parameter tuning algorithm[D]. Harbin: Harbin Institute of Technology, 2020.