内窥镜系统以及体内组织的特征间距测量装置和方法与流程



1.本技术涉及医学影像技术,特别涉及一种内窥镜系统、一种体内组织特征间距测量装置以及一种体内组织的特征间距测量方法。


背景技术:



2.在某些微创手术中,施术者需要在准确了解病患者的体内组织中的组织特征之间的特征间距,方可顺利实施手术。
3.例如,对于宫腔微创手术,子宫两侧与输卵管连接的宫角是施术者关注的组织特征,这是因为,两侧宫角之间的间距用于确定在宫腔微创手术中植入子宫的支架或球囊的尺寸,若无法准确测量两侧宫角之间的间距,将影响支架或球囊在手术过程中的顺利植入。
4.再例如,对于肠道微创手术,肠道中的结节是施术者关注的组织特征,这是因为,肠道中的结节之间的间距用于确定待切除的病体尺寸,若无法准确测量结节之间的间距,将影响对肠道病体的切除。
5.一般情况下,对于组织特征之间的特征间距的测量可以超声检测的方式。
6.然而,超声检测需要依赖于人眼观测,在超声影像中对组织特征的辨识和定位需要依靠人眼观察,并且,组织特征之间的特征间距也需要通过对超声影像的目测估算来确定,因此,即便观测者的经验丰富,也必然需要耗费较长的时间方可获得理想的测量值,即,基于超声检测对特征间距的测量效率较低。
7.可见,如何提高对体内组织的组织特征之间的特征间距的测量效率,成为现有技术中有待解决的技术问题。


技术实现要素:



8.在本技术的实施例中,提供了一种内窥镜系统、一种体内组织的特征间距测量装置以及体内组织的一种特征间距测量方法,有助于提高对体内组织的组织特征之间的特征间距的测量效率。
9.本技术的一个实施例提供一种内窥镜系统,包括:
10.内窥成组件,包括内窥镜和摄像头,所述摄像头用于对所述内窥镜的视野范围内的体内组织双目成像、并基于所述双目成像实时产生三维图像数据;
11.数据处理组件,用于:
12.对所述三维图像数据进行图像特征识别,所述图像特征识别的识别目标包括所述体内组织的一对目标组织特征;
13.基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值。
14.在一些示例中,可选地,所述数据处理组件进一步用于:获取超声检测系统对所述一对目标组织特征之间的特征间距的超声测量值;基于所述内窥测量值与所述超声测量值的加权值,确定所述特征间距的测距结果。
15.在一些示例中,可选地,所述数据处理组件进一步用于:基于所述内窥测量值的估算测量质量,确定所述超声测量值和所述内窥测量值分别对应的权重值。
16.在一些示例中,可选地,所述数据处理组件进一步用于:利用预先训练的神经网络模型对所述三维图像数据进行所述图像特征识别;其中,所述神经网络模型针对所述图像特征识别的识别结果提供的置信度用于表征所述内窥测量值的估算测量质量。
17.在一些示例中,可选地,所述数据处理组件进一步用于:对所述三维图像数据进行基于电子防抖的图像位置矫正;其中,基于所述图像位置矫正确定的内窥镜抖动幅度用于表征所述内窥测量值的估算测量质量。
18.在一些示例中,可选地,所述数据处理组件具体用于:响应于所述一对目标组织特征在同一时刻的成功识别,基于所述一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离,确定所述内窥测量值。
19.在一些示例中,可选地,所述数据处理组件具体用于:响应于所述一对目标组织特征先后在不同时刻的成功识别,基于所述不同时刻之间的持续时长的分段接续测量,确定所述内窥测量值,其中,所述分段接续测量中的每段测量的分段测量值是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点,并且,所述一对目标组织特征分别作为所述分段接续测量的所有测量节点中的首节点和尾节点。
20.在一些示例中,可选地,所述图像特征识别的识别目标进一步包括分布在所述一对目标组织特征之间的至少一个邻域参考特征;所述数据处理组件具体用于:响应于所述一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对所述第一组织特征与所述第二组织特征之间的特征间距的所述分段接续测量;响应于所述第二组织特征由于所述内窥成像组件的位姿调节而在所述第一组织特征之后的单独成功识别,利用所述分段接续测量的分段测量值在所述第二组织特征被单独成功识别时截止的累加结果,确定所述内窥测量值;其中,所述分段接续测量的测量节点包括作为首节点的所述第一组织特征、作为中间节点的所述邻域参考特征、以及作为尾节点的所述第二组织特征;并且,按照从所述第一组织特征到所述第二组织特征的位置排序,所述测量节点以两两相邻的方式被依次选定为所述分段接续测量的测量对象,所述分段接续测量的每段测量得到的所述分段测量值为对应选定的两个相邻的所述测量节点在同一时刻的空间坐标位置之间的坐标距离。
21.在一些示例中,可选地,所述数据处理组件具体用于:在所述分段接续测量的每段测量过程中,监测对应选定的所述测量节点的空间坐标位置随时间变化的位置偏移,以在所述位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换所述分段接续测量的测量对象而开始下一段的分段接续测量。
22.在一些示例中,可选地,所述数据处理组件进一步用于:响应于所述第一组织特征先于所述第二组织特征的单独成功识别,产生用于表征所述内窥成像组件的所述位姿调节的参考调节方向的第一多媒体提示信息,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上。
23.在一些示例中,可选地,所述数据处理组件进一步用于:在所述分段接续测量的期
间内,利用所述内窥成像组件的所述位姿调节的参考调节方向,校验所述位置偏移的偏移方向,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上;响应于对所述偏移方向的校验失败,产生表示促使所述内窥成像组件的所述位姿调节需复位、且所述分段接续测量需重启的第二多媒体提示信息,并且,对所述分段接续测量的当前累加结果清零。
24.本技术的另一个实施例提供一种体内组织的特征间距测量装置,包括:
25.图像处理模块,用于对从内窥成像组件获取到的三维图像数据进行图像特征识别,其中,所述内窥成像组件包括内窥镜和摄像头,所述摄像头用于对所述内窥镜的视野范围内的体内组织双目成像、并基于所述双目成像实时产生所述三维图像数据,所述图像特征识别的识别目标包括所述体内组织的一对目标组织特征;
26.三维测量模块,用于基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值。
27.在一些示例中,可选地,所述特征间距测量装置进一步包括结果融合模块,用于:获取超声检测系统对所述一对目标组织特征之间的特征间距的超声测量值;基于所述内窥测量值与所述超声测量值的加权值,确定所述特征间距的测距结果。
28.在一些示例中,可选地,所述结果融合模块进一步用于:基于所述内窥测量值的估算测量质量,确定所述超声测量值和所述内窥测量值分别对应的权重值。
29.在一些示例中,可选地,所述图像处理模块进一步用于:利用预先训练的神经网络模型对所述三维图像数据进行所述图像特征识别;其中,所述神经网络模型针对所述图像特征识别的识别结果提供的置信度用于表征所述内窥测量值的估算测量质量。
30.在一些示例中,可选地,所述图像处理模块进一步用于:对所述三维图像数据进行基于电子防抖的图像位置矫正;基于所述图像位置矫正确定的内窥镜抖动幅度用于表征所述内窥测量值的估算测量质量。
31.在一些示例中,可选地,所述三维测量模块具体用于:响应于所述一对目标组织特征在同一时刻的成功识别,基于所述一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离,确定所述内窥测量值。
32.在一些示例中,可选地,所述三维测量模块具体用于:响应于所述一对目标组织特征先后在不同时刻的成功识别,基于所述不同时刻之间的持续时长的分段接续测量,确定所述内窥测量值,其中,所述分段接续测量中的每段测量的分段测量值是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点,并且,所述一对目标组织特征分别作为所述分段接续测量的所有测量节点中的首节点和尾节点。
33.在一些示例中,可选地,所述图像特征识别的识别目标进一步包括分布在所述一对目标组织特征之间的至少一个邻域参考特征;所述三维测量模块具体用于:响应于所述一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对所述第一组织特征与所述第二组织特征之间的特征间距的分段接续测量;响应于所述第二组织特征由于所述内窥成像组件的位姿调节而在所述第一组织特征之后的单独成功识别,利用所述分段接续测量的分段测量值在所述第二组织特征被单独成功识别时截止的累加结果,确定
所述内窥测量值;其中,所述分段接续测量的测量节点包括作为首节点的所述第一组织特征、作为中间节点的所述邻域参考特征、以及作为尾节点的所述第二组织特征;并且,按照从所述第一组织特征到所述第二组织特征的位置排序,所述测量节点以两两相邻的方式被依次选定为所述分段接续测量的测量对象,所述分段接续测量的每段测量得到的所述分段测量值为对应选定的两个相邻的所述测量节点在同一时刻的空间坐标位置之间的坐标距离。
34.在一些示例中,可选地,所述三维测量模块具体用于:在所述分段接续测量的每段测量过程中,监测对应选定的所述测量节点的空间坐标位置随时间变化的位置偏移,以在所述位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换所述分段接续测量的测量对象而开始下一段的分段接续测量。
35.在一些示例中,可选地,所述三维测量模块进一步用于:响应于所述第一组织特征先于所述第二组织特征的单独成功识别,触发用于表征所述内窥成像组件的所述位姿调节的参考调节方向的第一多媒体提示信息的产生,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上。
36.在一些示例中,可选地,所述三维测量模块进一步用于:在所述分段接续测量的期间内,利用所述内窥成像组件的所述位姿调节的参考调节方向,校验所述位置偏移的偏移方向,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上;响应于对所述偏移方向的校验失败,触发用于指示所述内窥成像组件的所述位姿调节需复位重启的第二多媒体提示信息的,并且,对所述分段接续测量的当前累加结果清零。
37.本技术的另一个实施例提供一种体内组织的特征间距测量方法,包括:
38.对从内窥成像组件获取到的三维图像数据进行图像特征识别,其中,所述内窥成像组件包括内窥镜和摄像头,所述摄像头用于对所述内窥镜的视野范围内的体内组织双目成像、并基于所述双目成像实时产生所述三维图像数据,所述图像特征识别的识别目标包括所述体内组织的一对目标组织特征;
39.基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值。
40.在一些示例中,可选地,所述特征间距测量方法进一步包括:获取超声检测系统对所述一对目标组织特征之间的特征间距的超声测量值;基于所述内窥测量值与所述超声测量值的加权值,确定所述特征间距的测距结果。
41.在一些示例中,可选地,所述特征间距测量方法进一步包括:基于所述内窥测量值的估算测量质量,确定所述超声测量值和所述内窥测量值分别对应的权重值。
42.在一些示例中,可选地,所述对所述三维图像数据进行图像特征识别,包括:利用预先训练的神经网络模型对所述三维图像数据进行所述图像特征识别;其中,所述神经网络模型针对所述图像特征识别的识别结果提供的置信度用于表征所述内窥测量值的估算测量质量。
43.在一些示例中,可选地,所述特征间距测量方法进一步包括:对所述三维图像数据
进行基于电子防抖的图像位置矫正;其中,基于所述图像位置矫正确定的内窥镜抖动幅度用于表征所述内窥测量值的估算测量质量。
44.在一些示例中,可选地,所述基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值,包括:响应于所述一对目标组织特征在同一时刻的成功识别,基于所述一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离,确定所述内窥测量值。
45.在一些示例中,可选地,所述基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值,包括:响应于所述一对目标组织特征先后在不同时刻的成功识别,基于所述不同时刻之间的持续时长的分段接续测量,确定所述内窥测量值,其中,所述分段接续测量中的每段测量的分段测量值是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点,并且,所述一对目标组织特征分别作为所述分段接续测量的所有测量节点中的首节点和尾节点。
46.在一些示例中,可选地,所述图像特征识别的识别目标进一步包括分布在所述一对目标组织特征之间的至少一个邻域参考特征;所述响应于所述一对目标组织特征先后在不同时刻的成功识别,基于所述不同时刻之间的持续时长的分段接续测量,确定所述内窥测量值,包括:响应于所述一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对所述第一组织特征与所述第二组织特征之间的特征间距的分段接续测量;响应于所述第二组织特征由于所述内窥成像组件的位姿调节而在所述第一组织特征之后的单独成功识别,利用所述分段接续测量的分段测量值在所述第二组织特征被单独成功识别时截止的累加结果,确定所述内窥测量值;其中,所述分段接续测量的测量节点包括作为首节点的所述第一组织特征、作为中间节点的所述邻域参考特征、以及作为尾节点的所述第二组织特征;并且,按照从所述第一组织特征到所述第二组织特征的位置排序,所述测量节点以两两相邻的方式被依次选定为所述分段接续测量的测量对象,所述分段接续测量的每段测量得到的所述分段测量值为对应选定的两个相邻的所述测量节点在同一时刻的空间坐标位置之间的坐标距离。
47.在一些示例中,可选地,基于成功识别到的所述图像特征识别的识别结果,确定所述一对目标组织特征的空间坐标位置,进一步包括:在所述分段接续测量的每段测量过程中,监测对应选定的所述测量节点的空间坐标位置随时间变化的位置偏移,以在所述位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换所述分段接续测量的测量对象而开始下一段的分段接续测量。
48.在一些示例中,可选地,所述特征间距测量方法进一步包括:响应于所述第一组织特征先于所述第二组织特征的单独成功识别,产生用于表征所述内窥成像组件的所述位姿调节的参考调节方向的第一多媒体提示信息,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上。
49.在一些示例中,可选地,所述特征间距测量方法进一步包括:在所述分段接续测量的期间内,利用所述内窥成像组件的所述位姿调节的参考调节方向,校验所述位置偏移的偏移方向,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的
标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上;响应于对所述偏移方向的校验失败,产生用于指示所述内窥成像组件的所述位姿调节需复位重启的第二多媒体提示信息,并且,对所述分段接续测量的当前累加结果清零。
50.本技术的另一个实施例提供一种非瞬时计算机可读存储介质,该非瞬时计算机可读存储介质存储指令,所述指令在由处理器执行时使得该处理器执行如前述实施例所述的特征间距测量方法。
51.基于上述实施例,可以利用摄像头在内窥镜的视野范围内对体内组织特征双目成像,而且,通过对双目成像得到的三维图像数据的图像特征识别,可以自动辨识出体内组织的目标组织特征、并利用空间坐标位置自动定位辨识出的目标组织特征,从而,基于目标组织特征的空间坐标位置可以自动测量得到目标组织特征之间的特征间距的内窥测量值,进而可以借助内窥镜实现不依赖于人眼观测的特征间距自动测量,以助于提高对体内组织的组织特征之间的特征间距的测量效率。
附图说明
52.以下附图仅对本技术做示意性说明和解释,并不限定本技术的范围:
53.图1为本技术的一个实施例中的内窥镜系统的系统架构示意图;
54.图2为如图1所示实施例中的内窥镜系统的电气结构示意图;
55.图3为如图1所示实施例中的内窥镜系统的工作原理示意图;
56.图4为如图1所示实施例中的内窥镜系统的测距原理示意图;
57.图5为如图1所示实施例中的内窥镜系统在测距时的图像特征识别的第一实例示意图;
58.图6为如图1所示实施例中的内窥镜系统在测距时的图像特征识别的第二实例示意图;
59.图7为如图1所示实施例中的内窥镜系统以距离继续方式实现测距的原理示意图;
60.图8为如图7所示的距离继续方式的实例示意图;
61.图9为如图1所示实施例中的内窥镜系统以距离继续方式实现测距时的操作引导提示实例的示意图;
62.图10为如图1所示实施例中的内窥镜系统以距离继续方式实现测距时的操作报警提示实例的示意图;
63.图11为如图1所示实施例中的内窥镜系统对接的超声检测系统的系统架构示意图;
64.图12为如图11中示出的超声检测系统的电气结构示意图;
65.图13为本技术的另一个实施例中的体内组织的特征间距测量装置的示例性结构示意图;
66.图14为如图13所示实施例中的特征间距测量装置的扩展结构示意图;
67.图15为本技术的另一个实施例中的体内组织的特征间距测量方法的示例性结构示意图;
68.图16为如图15所示实施例中的特征间距测量方法的扩展流程示意图。
具体实施方式
69.为使本技术的目的、技术方案及优点更加清楚明白,以下参照附图并举实施例,对本技术进一步详细说明。
70.在本技术的实施例中,并不试图通过改进超声检测的原理来提升对体内组织的组织特征之间的特征间距的测量效率,而是提出了借助内窥镜对特征间距实施不依赖于人眼观测的自动测量方案。相比于基于人眼观测的超声检测,借助内窥镜对特征间距的自动测量的测量效率更高。
71.而且,由于内窥镜是可以应用在手术中的术中医疗工具,因此,借助内窥镜对特征间距的自动测量方案既可以适用于术前测量,也可以适用于术中测量,即,借助内窥镜对特征间距的自动测量方案也可以像超声检测那样兼容术前和术中的测量,而不会缩小特征间距测量的适用范围。
72.在实际使用时,可以结合实际情况选择术前测量和术中测量。例如,体内组织可能会处于持续变化的状态,并且,体内组织的组织特征的尺寸和相对位置可能会随着体内组织的持续变化而存在差异,在此情况下,为了确保测量结果的时效性,可以选用术中测量。而对于体内组织变化程度较低或不关注时效性的微创手术,则,也可以选用术前测量。
73.由于低效率的超声检测会影响手术的流畅性,尤其是,在超声检测采用体内超声探头的情况下,由于超声探头与微创手术所使用的内窥镜不能同时占用诸如阴道或肠道等施术通道,因此,采用体内超声探头的术中超声检测还需要将内窥镜从体内取出,这将导致手术的中断。若为了避免影像手术流畅性而将超声检测用于术前检测,则会导致测量结果存在由于缺乏时效性而存在的失准情况。即,超声检测在术前测量和术中测量之间的选择势必会意味着手术流畅性受阻和测量结果缺乏时效性中的至少一个不足。
74.相比之下,借助内窥镜对特征间距的自动测量方案的高效率可以支持手术进程的流畅性,并且可以避免由于术中测量而导致手术中断的情况,因此,借助内窥镜对特征间距的自动测量方案在术前测量和术中测量之间的选择,不会存在手术的流畅性和测量结果的时效性的不足,即,借助内窥镜对特征间距的自动测量方案在术前测量和术中测量之间的选择自由度更高。
75.图1为本技术的一个实施例中的内窥镜系统的系统架构示意图。图2为如图1所示实施例中的内窥镜系统的电气结构示意图。图3为如图1所示实施例中的内窥镜系统的工作原理示意图。请参见图1至图3,在本技术的实施例中,内窥镜系统可以包括内窥成像组件10、内窥光源设备20、系统主机设备30以及第一显示设备41。
76.内窥成组件10包括内窥镜11和摄像头12,该摄像头12用于对内窥镜11的视野范围内的体内组织双目成像、并基于双目成像实时产生三维图像数据。
77.例如,该摄像头12可以是双目摄像头或多目摄像头,其中的每个“目”包括一个光学镜头以及一个诸如ccd(charge coupled device,电荷耦合器件)或cmos(complementary metal oxide semiconductor,互补金属氧化物半导体)等感光元件121。并且,摄像头12还可以包括图像处理器122,该图像处理器122用于将每个“目”的感光元件121的模拟读出数据转换数字信号格式的单目图像,并且,可以将两个“目”的单目图像叠加合成为包含深度信息的3d(3dimensions,三维)图像,即,摄像头12产生的三维图像数据可以包括3d图像,并且,该摄像头12可以称为3d摄像头。
78.另外,摄像头12可以装设在内窥镜11的末端,在实际使用时,内窥镜11可以通过施术通道插入在体内,装设在内窥镜11末端的摄像头12可以位于体外,以便于施术者通过手持摄像头12调节内窥成像组件10在体内的插入位姿。而且,如图2所示,摄像头12还可以具有用于人机交互的摄像操作组件123(包括但不限于开关、按钮和触摸面板中的至少一种),以便于施术者通过摄像操作组件123实施对摄像头12的相关操作,诸如启动或关闭摄像头12,并且,施术者通过摄像操作组件123实施对摄像头12的相关操作可以上报至系统主机设备30。
79.内窥光源设备20可以包括冷光光源组件21,该内窥光源设备20利用冷光光源组件21产生的光源光束可以通过光导管传递至内窥镜11中,以便于在体内提供摄像头12成像所需的背景亮度。其中,内窥光源设备20可以还可以包括与冷光光源组件21电连接的光源驱控组件22,该光源驱控组件22可以受控于系统主机设备30,以便于冷光光源组件21可以在摄像头12启动时产生光源光束、在摄像头12关闭时停止产生光源光束。
80.系统主机设备30可以包括内窥主机控制组件31和数据处理组件32。
81.在本技术的实施例中,系统主机设备30的内窥主机控制组件31可以用于与摄像头12和内窥光源设备20电连接,以便于识别施术者通过摄像操作组件123实施对摄像头12的相关操作、以及控制内窥光源设备20的光源驱控组件22。例如,该内窥主机控制组件31可以包括诸如mcu(microcontroller unit,微控制器)、cpld(complex programmable logic device,复杂可编程逻辑器件)、fpga(field programmable gate array,现场可编程门阵列)、cpu(central processing unit,中央处理器)等至少一种控制元件。
82.在本技术的实施例中,系统主机设备30的数据处理组件32可以用于从内窥成像组件10获取摄像头12实时产生的三维图像数据,相应地,该数据处理组件32还用于对获取到的三维图像数据进行图像处理,诸如亮度变换、锐化、3d视差调节、缩放等isp((image signal processing,图像信号处理)操作,若数据处理组件32进一步具有eis(electric image stabilization,电子防抖)功能,则,数据处理组件32还可以对获取到的三维图像数据进行基于电子防抖的图像位置矫正。并且,经数据处理组件30处理后的3d图像可以以流的形式发送至第一显示设备41实时呈现,进一步地,数据处理组件30处理后的3d图像还可以经压缩编码后传输至第一存储装置51、并以视频文件的形式保存。例如,数据处理组件32可以包括诸如fpga、isp(image signal processor,图像信号处理器)、gpu(graphic processing unit,图形处理器)等具有比内窥主机控制组件31更高的处理能力的处理器。
83.另外,系统主机设备30还可以包括用于人机交互的内窥主机操作组件33(包括但不限于开关、按钮和触摸面板中的至少一种),以便于接收施术者的输入指示,该输入指示可以用于配置内窥光源设备20的光源驱控组件22对冷光光源组件21的驱动参数、和/或数据处理组件32对三维图像数据实时的isp操作类型和操作参数。
84.请特别关注图3,在本技术的实施例中,借助内窥镜对特征间距实施的自动测量,可以是通过扩展系统主机设备30的数据处理组件32的功能来实现的,即,为数据处理组件32增加特征间距的间距测量功能。
85.图4为如图1所示实施例中的内窥镜系统的测距原理示意图。请在参见图3的同时进一步结合图4,在本技术的实施例中,为了借助内窥镜对特征间距实施自动测量,数据处理组件32可以用于:
86.对摄像头12实时产生的三维图像数据进行图像特征识别(s321),该图像特征识别的识别目标包括体内组织的一对目标组织特征,例如,该对目标组织特征可以是子宫的两侧宫角,或者可以是肠道中的相邻结节。
87.在本技术的实施例中,数据处理组件32进行图像特征识别的三维图像数据中的3d图像,可以是经过诸如亮度变换、锐化、3d视差调节、缩放等图像处理后的预处理图像,这是为了优化图像特征识别的准确性。但可以理解的是,数据处理组件32也可以允许对包含摄像头12输出的原始3d图像的三维图像数据进行图像特征识别。
88.在本技术的实施例中,数据处理组件32可以利用图像处理算法或神经网络模型对三维图像数据的图像特征识别。例如,数据处理组件32可以利用图像处理算法或神经网络模型对目标组织特征进行特征识别和轮廓分割,从而得到目标组织特征的图像位置信息,每个目标组织特征的图像位置信息都可以包括该目标组织特征的轮廓像素位置以及对应像素的深度信息。并且,数据处理组件32还可以确定其从三维图像数据的同一帧3d图像中识别出的目标组织特征的数量、以及根据轮廓位姿确定每个目标组织特征在体内组织中的所处方位,例如,识别出的目标组织特征为左侧宫角还是右侧宫角。
89.图5为如图1所示实施例中的内窥镜系统在测距时的图像特征识别的第一实例示意图。请参见图5,若数据处理组件32利用图像处理算法对三维图像数据进行图像特征识别,则,数据处理组件32可以利用目标组织特征与体内组织的邻域组织之间具有灰度差的特性,对三维图像数据中的各帧3d图像进行二值化处理(s51),该二值化处理的阈值可以表征目标组织特征与体内组织的邻域组织之间的灰度分界;数据处理组件32还可以对3d图像的二值化图像进行形态学处理(s52),例如,该形态学处理可以包括对二值化图像的窗口滤波,以平滑二值化图像中的边缘、并去除二值化图像中的干扰孤岛,从而,可以从二值化图像中分割得到目标组织特征的轮廓,并且产生包括该目标组织特征的轮廓像素位置以及对应像素的深度信息的图像位置信息。
90.图6为如图1所示实施例中的内窥镜系统在测距时的图像特征识别的第二实例示意图。请参见图6,若数据处理组件32利用神经网络模型对三维图像数据进行图像特征识别,则,数据处理组件32所使用的神经网络模型可以包括卷积神经网络,例如alexnet(阿列克斯网络)、vgg-net(visual geometry group net,超分辨率测试序列网络)、googlenet(谷歌列奈网络)、resnet(deep residual network,深度残差神经网络)等深度学习网络。数据处理组件32所使用的神经网络模型利用目标组织特征的特征样本和对应的样本标签进行训练,并且,通过在训练过程中调节该神经网络模型的损失函数,可以使该神经网络模型具备从3d图像中分割得到目标组织特征的特征轮廓的能力,即,该神经网络模型可以被训练为轮廓分割模型。当三维图像数据中的各3d图像被输入到轮廓分割模型后,先经过该分割模型的编码网络进行卷积和下采样(s61)、再经过该分割模型的解码网络进行卷积和上采样(s62),即可对3d图像中出现的目标组织特征进行轮廓分割,并且产生包括该目标组织特征的轮廓像素位置以及对应像素的深度信息的图像位置信息。
91.可以理解的是,在本技术的实施例中,并不意图限定对三维图像数据进行图像特征识别的具体方式,而是更关注于图像特征识别的识别对象为摄像头12通过内窥镜11产生的三维图像数据、以及图像特征识别的识别目标包括体内组织的一对目标组织特征。
92.无论是用何种方式进行图像特征识别,在本技术的实施例中,数据处理组件32都
可以基于识别结果中的图像位置信息对识别出的目标组织特征进行单个特征的尺寸测量。
93.而且,在本技术的实施例中,为了借助内窥镜对特征间距实施自动测量,数据处理组件32还可以基于图像特征识别的识别结果,确定一对目标组织特征的空间坐标位置。
94.如前文所述,图像特征识别的识别结果可以包括目标组织特征在三维图像数据中的图像位置信息,该图像位置信息可以包括目标组织特征的轮廓像素位置以及对应像素的深度信息,从而,在本技术的实施例中,数据处理组件32在确定目标组织特征的空间坐标位置时,可以基于图像位置信息和摄像头12的标定相机参数(即内参矩阵和外参矩阵),利用相关技术中的任意一种双目视觉算法,确定目标组织特征在参考坐标系中相对于摄像头12的空间坐标位置,该参考坐标系的坐标原点可以被设定为摄像头12中被指定为坐标原点的指定“目”。
95.也就是,在本技术的实施例中,并不意图限定对空间坐标位置的确定方式,而是更关注于空间坐标位置用于表征对目标组织特征的定位位置。
96.而且,目标组织特征的空间坐标位置,可以是目标组织特征的轮廓范围内的与施术位置关联度最高的坐标位置。例如,对于一对目标组织特征为子宫的两侧宫角的情况,该对目标组织特征的空间坐标位置可以是宫角与支架或球囊的接触部位的空间坐标位置。再例如,对于一对目标组织特征为肠道中的相邻结节的情况,该对目标组织特征的空间坐标位置可以是结节两侧用于切除病体的切割部位的空间坐标位置。
97.可以理解的是,在本技术的实施例中,目标组织特征的空间坐标位置可以是指目标组织特征的施术关联部位的空间坐标位置。
98.请继续参见图4,在本技术的实施例中,为了借助内窥镜对特征间距实施自动测量,数据处理组件32还可以用于:
99.基于通过图像特征识别成功识别到的一对目标组织特征的空间坐标位置,确定对该对目标组织特征之间的特征间距的内窥测量值(s322)。
100.在本技术的实施例中,内窥测量值可以作为特征间距的测量结果,通过图像处理环节被转换为可视化信息叠加到三维图像数据的后续3d图像中,进一步地,叠加有表征测量结果的可视化信息的后续3d图像可以通过压缩编码,而被添加为第一存储装置51中的视频文件的后续视频帧。
101.如上可见,本技术的实施例可以利用摄像头12在内窥镜11的视野范围内对体内组织特征双目成像,而且,通过数据处理组件32对双目成像得到的三维图像数据的图像特征识别,可以自动辨识出体内组织的目标组织特征、并利用空间坐标位置自动定位辨识出的目标组织特征,从而,基于目标组织特征的空间坐标位置,数据处理组件32可以自动测量得到一对目标组织特征之间的特征间距的内窥测量值,进而可以借助内窥镜11实现不依赖于人眼观测的特征间距自动测量,以助于提高对体内组织的一对组织特征之间的特征间距的测量效率。
102.在实际使用时,一种理想状态是一对目标组织特征同时出现在内窥镜11的视野范围内,在此情况下,三维图像数据的至少一帧3d图像中可以同时包括一对目标组织特征,并且,数据处理组件32可以具体用于:
103.响应于一对目标组织特征在同一时刻的成功识别,基于一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离,确定对该对目标组织特征之间的特征间距的内窥测
量值。
104.也就是,数据处理组件32进行图像特征识别的识别结果可以包括:响应于一对目标组织特征在同一时刻(即同一帧3d图像)的成功识别而产生的双特征识别结果。相应地,数据处理组件32可以先基于图像特征识别得到的双特征识别结果,确定得到一对目标组织特征在同一时刻的空间坐标位置,例如,基于利用同一帧3d图像得到的图像位置信息、以及摄像头12的标定相机参数(即内参矩阵和外参矩阵),确定得到一对目标组织特征在该帧3d图像的对应时刻的空间坐标位置;然后,再通过对一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离的距离测量,确定对该对目标组织特征之间的特征间距的内窥测量值。
105.在实际使用时,还有可能出现仅有一个目标组织特征单独出现在内窥镜11的视野范围内的情况。若出现这种情况,施术者可以通过手握摄像头12而调节内窥成像组件10的位姿,以调节得到一对目标组织特征同时出现在内窥镜11的视野范围内的理想状态,这类似于超声波探头搜索一对目标组织特征的调节过程。也就是,即便在使用过程中出现仅有一个目标组织特征单独出现在内窥镜11的视野范围内的情况,调节到理想状态的过程与超声检测中的超声波探头搜索过程基本相当,因此,基于自动测量的效率提升仍然可以通过节省基于目测的测距过程而使得本技术实施例具有比超声检测更高的测距效率。
106.但为了缩减调节过程的耗时,以进一步提升测距效率,在本技术的实施例中,可以并不要求自动测距必须依赖于上述理想状态,而是可以允许以一对目标组织特征分别在不同时刻出现在内窥镜11的视野范围内的情况下,通过距离接续的方式完成自动测量。
107.具体地,在本技术的实施例中,数据处理组件32可以具体用于:
108.响应于一对目标组织特征先后在不同时刻的成功识别,基于先后成功识别一对目标组织特征的不同时刻之间的持续时长的分段接续测量,确定该对目标组织特征之间的特征间距的内窥测量值,其中,分段接续测量中的每段测量的分段测量值可以是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点(用于确保各段测量之间是逐段接续的),并且,一对目标组织特征分别作为分段接续测量的所有测量节点中的首节点和尾节点。
109.也就是,该数据处理组件32可以具体用于:
110.响应于一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对第一组织特征与第二组织特征之间的特征间距的分段接续测量;
111.响应于第二组织特征由于内窥成像组件的位姿调节而在第一组织特征之后的单独成功识别,利用分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果,确定对该对目标组织特征之间的特征间距的内窥测量值。
112.在本技术的实施例中,为了基于先后成功识别一对目标组织特征的不同时刻之间的持续时长的分段接续测量,数据处理组件32进行图像特征识别的识别目标可以进一步包括分布在一对目标组织特征之间的至少一个邻域参考特征,这些邻域参考特征可以用作所有测量节点中位于首节点和尾节点之间的中间节点,在此情况下,分段接续测量的测量节点包括作为首节点的第一组织特征为首节点、作为中间节点的邻域参考特征、以及作为尾节点的第二组织特征,并且:
113.按照从第一组织特征到第二组织特征的位置排序,测量节点以两两相邻的方式被
依次选定为分段接续测量的测量对象,即,对测量对象的依次选定是指,当分段接续测量中的任意一段测量结束时,该段测量的一对测量对象中作为更靠近第二组织特征的下游测量节点的特征,被选定为下一段测量的上游测量节点(即相邻的当前测量段和下一测量段这两个段测量所具有的共同测量节点),并且,该特征在靠近第二组织特征一侧的相邻特征被选定为下一段测量的下游测量节点;
114.分段接续测量的每段测量得到的分段测量值为对应选定的两个相邻的测量节点在同一时刻的空间坐标位置之间的坐标距离,从而,通过分段接续测量的所有分段测量值的累加,可以从第一组织特征开始分段接续测量距离。
115.图7为如图1所示实施例中的内窥镜系统以距离继续方式实现测距的原理示意图。请参见图7,在本技术的实施例,图像特征识别的识别目标可以进一步包括分布在第一组织特征org1和第二组织特征org2之间的至少一个邻域参考特征{o_sub}。
116.若第一组织特征org1在第一时刻tp先于第二组织特征org2单独出现在内窥镜11的视野范围110内,则,与第一组织特征org1相邻的邻域参考特征也会在第一时刻tp出现在内窥镜11的视野范围110内,通过内窥成像组件10的位姿调节(调节方向如图7中位于视野范围110左侧的箭头线所示),第一组织特征org1可能会逐渐移出内窥镜11的视野范围110,并且,可以促使第二组织特征org2在第二时刻tq出现在内窥镜11的视野范围110内,与第二组织特征org2相邻的邻域参考特征也会在第二时刻tq与第二组织特征org2一起出现在内窥镜11的视野范围110内。
117.相应地,数据处理组件32进行图像特征识别的识别结果可以包括:响应于一对目标组织特征中的第一组织特征org1和第二组织特征org2先后在第一时刻tp和第二时刻tq的单独识别而依次产生的第一单特征识别结果和第二单特征识别结果,其中,第一时刻可以为三维图像数据中的任意3d图像对应的帧时刻,第二时刻可以为晚于第一时刻的任意后续3d图像对应的帧时刻。
118.如图7所示,数据处理组件32可以先基于第一单特征识别结果(其中包含第一组织特征org1、以及至少一个邻域参考特征{o_sub}中与第一组织特征相邻的一个邻域参考特征的图像位置信息),将确定一对目标组织特征中先被成功识别的第一组织特征org1、以及至少一个邻域参考特征{o_sub}中与第一组织特征org1相邻的一个邻域参考特征选定为分段接续测量的首对测量对象,并且,确定包括第一组织特征org1的首对测量对象在第一时刻tp的空间坐标位置,从而,可以基于首对测量对象在第一时刻tp的空间坐标位置,确定分段接续测量过程中的首段测量的分段测量值δd1;
119.依此类推,响应于被选定为分段接续测量的测量对象的每次变化,都可以基于图像特征识别的后续特征识别结果中包含的变化后的一对测量对象的图像位置信息,确定该测量对象的在对应时刻的空间坐标位置,并且,基于该测量对象的在对应时刻的空间坐标位置确定对应分段的分段测量值,直至第二组织特征org2被成功识别;
120.即,响应于第二单特征识别结果(其中包含第二组织特征org2、以及至少一个邻域参考特征{o_sub}中与第二组织特征相邻的一个邻域参考特征的图像位置信息),确定第二组织特征、以及至少一个邻域参考特征{o_sub}中与第二组织特征org2相邻的一个邻域参考特征选定为分段接续测量的最后一对测量对象,并且,确定包括第二组织特征org2的最后一对测量对象在第二时刻tq的空间坐标位置,从而,可以基于最后一对测量对象在第二
时刻tq的空间坐标位置确定分段接续测量过程中的末段测量的分段测量值dn+1。其中,n表示邻域参考特征{o_sub}中的邻域参考特征的数量,并且,n为大于等于1的正整数。
121.从而,分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果∑δd可以近似表征第一组织特征org1与第二组织特征org2之间的特征间距d_org,即,d_org≈∑δd,并且,可以基于分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果∑δd,确定对特征间距d_org的内窥测量结果。
122.可以理解的是,图7中仅仅是以xy平面来表达第一组织特征org1、第二组织特征org2以及替代特征o_sub的位置,但第一组织特征org1、第二组织特征org2以及替代特征o_sub的空间坐标位置包含x、y、z三个坐标,因此,坐标距离d_fin、偏移距离d(tp,tq)以及特征间距d_org都是三维坐标之间的坐标距离。
123.在本技术的实施例中,分段接续测量的各段测量并不是必须在时间上连续,而是可以允许相邻两段测量之间存在至少一个帧时长的间隔,并且,分段接续测量的各段测量之间是否连续、以及间隔的时长,可以是根据内窥成像组件10的实际位姿调节情况(即内窥镜11的视野位置调节情况)来确定的。
124.相应地,在本技术的实施例中,数据处理组件32可以通过监测当前被选定的测量节点的空间坐标位置随时间变化的位置偏移来确定内窥成像组件10的实际位姿调节情况(即内窥镜11的视野位置调节情况),具体地,数据处理组件32可以具体用于:
125.在分段接续测量的每段测量过程中,监测对应选定的测量节点(即一对测量节点中的至少一个测量节点)的空间坐标位置随时间变化的位置偏移,以在该位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换分段接续测量的测量对象而开始下一段的分段接续测量,即,将当前段测量的一对测量对象中作为更靠近第二组织特征的下游测量节点的特征,选定为下一段测量的上游测量节点,并且,将该特征在靠近第二组织特征一侧的相邻特征选定为下一段测量的下游测量节点。
126.图8为如图7所示的距离继续方式的实例示意图。请参见8,以{o_sub}中的邻域参考特征的数量n取3为例,在在分段接续测量的第i段测量过程中(i为大于等于1且小于等于n的正整数):
127.监测对应选定的测量节点(例如一对测量节点中靠近第二组织特征org2的下游测量节点)的空间坐标位置随时间变化的位置偏移δei;
128.当位置偏移δei达到预设的偏移量阈值、且成功识别到用于被选定为第i+1段的测量对象的相邻特征时,将第i段测量的一对测量对象中作为更靠近第二组织特征org2的下游测量节点的特征,选定为第i+1段测量的上游测量节点,并且,将该特征在靠近第二组织特征org2一侧的相邻特征选定为第i+1段测量的下游测量节点。
129.在图8中,具体示出了:
130.对于第1段测量过程,其分段测量值表示为δd1,当监测到作为当前测量节点中的下游测量节点的第一邻域参考特征o_sub1的空间坐标位置从开始第1段测量过程开始的第一时刻tp的(x_sub1_tp,y_sub1_tp,z_sub1_tp)偏移至(x_sub1_tm,y_sub1_tm,z_su1i_tm),以使得第一邻域参考特征o_sub1的空间坐标位置的位置偏移δe1达到预设的偏移量阈值,并且,在位置偏移δe1达到预设的偏移量阈值的同时或之后,还成功识别到用于被选
定为第2段的测量对象的相邻特征,即,第二邻域参考特征o_sub2,因此,将第一邻域参考特征o_sub1和第二邻域参考特征o_sub2选定为第2段测量过程的测量对象,并且,分段接续测量的分段测量值在第1段测量过程结束时的累加结果∑δd=δd1;
131.对于第2段测量过程,其分段测量值表示为δd2,当监测到作为当前测量节点中的下游测量节点的第二邻域参考特征o_sub2的空间坐标位置从第2段测量过程开始时的(x_sub2_tm,y_sub2_tm,z_sub2_tm)偏移至(x_sub2_tn,y_sub2_tn,z_sub2_tn),以使得第二邻域参考特征o_sub2的空间坐标位置的位置偏移δe2达到预设的偏移量阈值,并且,在位置偏移δe2达到预设的偏移量阈值的同时或之后,还成功识别到用于被选定为第3段的测量对象的相邻特征,即,第三邻域参考特征o_sub3,因此,将第二邻域参考特征o_sub2和第三邻域参考特征o_sub3选定为第3段测量过程的测量对象,并且,分段接续测量的分段测量值在第2段测量过程结束时的累加结果∑δd=δd1+δd2;
132.以此类推,第3段测量过程也可以得到表示为δd3的分段测量值、并且使分段接续测量的分段测量值的累加结果∑δd增加值δd1+δd2+δd3;
133.此后,第二组织特征org2在第二时刻tq被成功识别,并且,可以将第三邻域参考特征o_sub3和第二组织特征org2选定为最后的第4段测量过程的测量对象,从而,分段接续测量的分段测量值在第二组织特征org2被识别时截至的累加结果∑δd=δd1+δd2+δd3+δd4,进而可以确定第一组织特征org1与第二组织特征org2之间的特征间距d_org≈∑δd。
134.在本技术实施例中,为了引导施术者尽快通过对内窥成像组件10的正确位姿调节完成距离接续方式的测距,数据处理组件32可以进一步用于:
135.响应于第一组织特征先于第二组织特征的单独成功识别(例如前文提及的第一单特征识别结果),产生用于表征内窥成像组件10的位姿调节的参考调节方向的第一多媒体提示信息,其中,该参考调节方向是基于第一组织特征和第二组织特征之间的标定相对方位确定的,并且,该参考调节方向用于促使分段接续测量中选定的测量节点的空间坐标位置的位置偏移发生在朝向第二组织特征的方向上,即,促使第二组织特征在内窥镜的视野范围内出现、并在第一组织特征之后被成功识别。
136.例如,第一多媒体提示信息可以包括第一图形可视化信息,该第一图形可视化信息可以通过图像处理而添加到三维图像数据中的3d图像中,以通过第一显示设备41对施术者呈现;或者,若内窥镜系统的系统主机设备30进一步包括诸如扬声器等音频播放组件,则,第一多媒体提示信息也可以包括第一语音提示信息,即,数据处理组件32可以进一步生成包含第一语音提示信息的第一音频播放文件,并由内窥主机控制组件31提供给音频播放组件向施术者播报。
137.图9为如图1所示实施例中的内窥镜系统以距离继续方式实现测距时的操作引导提示实例的示意图。请参见图9,以第一多媒体提示信息包括第一图形可视化信息91为例、并且省略了邻域参考特征{o_sub},当第一组织特征org1在第一时刻tp先于第二组织特征org2被单独识别时,该第一图形可视化信息91可以被数据处理组件32连续添加或间歇添加至三维图像数据在第一时刻tp之后的多帧3d图像中,以指引施术者按照第一图形可视化信息91的指引方向对内窥成像组件10实时位姿调节,直至第二组织特征org2在第二时刻tp被成功识别。
138.在实际使用时,即便产生用于表征内窥成像组件10的位姿调节的参考调节方向的第一多媒体提示信息,施术者也仍然有可能对内窥成像组件10实施偏离于参考调节方向的位姿调节,考虑到这种可能在使用时发生的情况,在本技术实施例中,数据处理组件32可以进一步用于:
139.在分段接续测量的期间内,利用内窥成像组件10的位姿调节的参考调节方向,校验分段接续测量中选定的测量节点的空间坐标位置的位置偏移的偏移方向,如前文所述,该参考调节方向是基于第一组织特征和第二组织特征之间的标定相对方位确定的,并且,该参考调节方向用于促使分段接续测量中选定的测量节点的空间坐标位置的位置偏移发生在朝向第二组织特征的方向上;
140.响应于对该偏移方向的校验失败,产生用于指示内窥成像组件10的位姿调节需复位重启的第二多媒体提示信息,即,分段接续测量也需要重新开始,并且,对分段接续测量的当前累加结果清零。
141.例如,第二多媒体提示信息可以包括第二图形可视化信息,该第二图形可视化信息可以通过图像处理而添加到三维图像数据中的3d图像中,以通过第一显示设备41对施术者呈现;或者,若内窥镜系统的系统主机设备30进一步包括诸如扬声器等音频播放组件,则,第二多媒体提示信息也可以包括第二语音提示信息,即,数据处理组件32可以进一步生成包含第二语音提示信息的第二音频播放文件,并由内窥主机控制组件31提供给音频播放组件向施术者播报。
142.图10为如图1所示实施例中的内窥镜系统以距离继续方式实现测距时的操作报警提示实例的示意图。请参见图10,以第二多媒体提示信息包括第二图形可视化信息92为例、并且省略了邻域参考特征{o_sub},当第一组织特征org1在第一时刻tp先于第二组织特征org2被单独识别时,若校验内窥镜11的视野范围100在第一时刻与第二时刻之间相对于体内组织的偏移方向偏离于参考调节方向(即校验失败),则,该第二图形可视化信息92可以被数据处理组件32连续添加或间歇添加至三维图像数据在第一时刻tp之后的多帧3d图像中,以指示施术者需复位重启对内窥成像组件10的位姿调节需,并且,对分段接续测量的当前累加结果清零。另外,如图10所示,图9中的第一图形可视化信息91也可以与第二图形可视化信息92一起被连续添加或间歇添加至三维图像数据在第一时刻tp之后的多帧3d图像中,以便于在警示施术者的同时,为施术者复位重启对内窥成像组件的位姿调节提供参考指引。
143.在本技术的实施例中,还可以支持内窥测量值与超声检测系统对相同的一对组织特征之间的特征间距的超声测量值的融合。例如,实施超声检测的观测者的经验,有可能会得到准确度更优的超声测量值,在已知超声测量值具有较高准确度的情况下,将内窥测量值与超声测量值融合,可以提升测量结果的准确度。再例如,对于目标组织特征存在先天畸形的罕见情况,内窥镜系统的图像特征识别的准确度将会受到影像,在此情况下,通过引入基于人眼观测得到的超声测量值,可以弥补由于图像特征识别对畸形特征的识别失准。也就是,一对组织特征之间的特征间距的内窥测量值与超声测量值的融合,可以用于利用基于目测的超声测量值实现对自动测量的内窥测量值的验证,并且,该融合可以是由施术者在判断需要验证内窥测量值时被触发。
144.对于内窥测量值和超声测量值的融合,可以是以对手术流畅性的影响最小化为前
提的。例如,与内窥测量值融合的超声测量值,可以包括在手术之前的准备阶段利用超声检测系统确定的术前超声测量值,即,该术前超声测量值的确定时间相距手术时间的时间间隔不超过影响测量结果时效性的时间阈值,比如该时间阈值可以为24小时。再例如,与内窥测量值融合的超声测量值,也可以包括在手术过程中利用超声检测系统确定的术中超声测量值,并且,利用超声检测系统的术中测量过程可以是在不妨碍施术者利用内窥镜11观测体内组织的情况下与施术者的施术过程并行发生的,即,可与内窥测量值融合的术中超声测量值,可以是利用外置式超声探头实施利用超声检测系统的术中测量确定的超声测量值,在此情况下,可能会先得到内窥测量值、并呈现给施术者,以供施术者可以对特征间距产生确保手术可以持续推进的基础认知,然后,可以根据施术者对于内窥测量值的验证需求,可以由具备超声检测经验的观测者利用超声检测系统实施超声测量,并且,随着观测者借助超声检测系统的外置式超声探头对超声测量值的确定,呈现给施术者的测量值可以被随后更新为内窥测量值和超声测量值的融合值,以供施术者考虑是否对与特征间距关联的施术操作进行微调。
145.图11为如图1所示实施例中的内窥镜系统对接的超声检测系统的系统架构示意图。图12为如图11中示出的超声检测系统的电气结构示意图。请参见图11和图12,在本技术的实施例中,与如图1所示的内窥镜系统对接的超声检测系统可以包括超声探头60、超声主机70以及第二显示设备42。
146.超声探头60可以是外置式超声探头或内插式超声探头,并且,超声探头60用于产生超声波信号、并且接收超声波信号被体内组织反射的回波信号。例如,超声探头60可以包括信号收发器61和信号处理器62,其中,信号收发器61用于发射超声波信号、并接收回波信号,信号处理器62用于对信号收发器61接收到的回波信号进行诸如波束合成、模数转换等信号处理,经处理后的数字回波信号可以上报至超声主机70。并且,超声探头60还可以包括用于人机交互的探头操作组件63,以便于通过探头操作组件63的操作产生用于启动或关闭信号收发器61和信号处理器62的探头操作指令,该探头操作指令可以上报至超声主机70。
147.超声主机70可以包括超声主机控制组件71、影像处理组件72以及超声主机操作组件73。其中,超声主机控制组件71可以包括该内窥主机控制组件31可以包括诸如mcu、fpga、cpu等至少一种控制元件,影像处理组件72可以包括诸如fpga等具有信号处理能力的逻辑器件,并且,超声主机操作组件73可以包括诸如开关、按钮、触摸面板以及键盘等可操作部件。
148.超声主机控制组件71可以控制影像处理组件72、并获取从超声主机操作组件73输入的指令及信息,例如,可以响应于超声探头60的启动和关闭而触发影像处理组件72的启动和休眠。
149.影像处理组件72用于利用超声探头60上报的数字回波信号构建超声影像图像,并且,将超声影像图像发送至第二显示设备42实时呈现,进一步地,影像处理组件72还可以将超声影像图像通过视频压缩编码后传输至与超声主机70电连接的第二存储装置52、并以视频文件的形式保存。
150.超声主机操作组件73用于接收输入指示,该输入指示可以用于配置影像处理组件72构建超声影像图像的参数,并且,当超声探头60的监测范围覆盖一对目标组织特征时,超声主机操作组件73接收到的输入指示还可以包括:基于人眼观测确定的该对目标组织特征
的特征间距的超声测量值。
151.并且,超声主机操作组件73接收到的超声测量值可以保存在超声主机70的内置非易失性存储介质中,或者,也可以被超声主机控制组件71存放至第二存储装置52。
152.从而,当如图1至图3所示的内窥镜系统的系统主机设备30与如图11和图12所示的超声检测系统的超声主机70通信时,系统主机设备30的内窥主机控制组件31可以从超声主机70的超声主机控制组件71获取到针对相同的一对目标组织特征的超声测量值、并提供给系统主机设备30的数据处理组件32,相应地,在本技术的实施例中,该数据处理组件32进一步用于:
153.获取超声检测系统对一对目标组织特征之间的特征间距的超声测量值,例如超声检测系统在内窥测量值确定之前的预定时间范围内得到的术前超声测量值、或超声检测系统在内窥测量值确定之后以不妨碍手术进程的方式得到的用于修正或校验内窥测量值的术中超声测量值;
154.基于内窥测量值与超声测量值的加权值,确定对该对目标组织特征之间的特征间距的测距结果。
155.在本技术的实施例中,基于内窥测量值与超声测量值的加权值确定的测距结果,可以替代内窥测量值被转换为可视化信息叠加到三维图像数据的后续3d图像中,进一步地,叠加有表征该测量结果的可视化信息的后续3d图像可以通过压缩编码,而被添加为第一存储装置51中的视频文件的后续视频帧。
156.例如,假设内窥测量值为ves、超声测量值为vut,则,内窥测量值与超声测量值的加权值可以表示为ves
×
ω_es+vut
×
ω_ut。
157.再例如,从超声检测系统获取到的超声测量值,可以包括术前超声测量值vut_pre和术中超声测量值vut_int中的至少一种,在此情况下,术前超声测量值vut_pre和术中超声测量值vut_int可以分别具有对应的加权权重ω_ut_pre和ω_ut_int,其中:
158.若从超声检测系统同时获取到术前超声测量值vut_pre和术中超声测量值vut_int,则,ω_es以及ω_ut_pre和ω_ut_int的总和为1;
159.若从超声检测系统仅获取到术前超声测量值vut_pre,则,ω_ut_int置为零、且ω_es和ω_ut_pre的和归一化为1;
160.若从超声检测系统仅获取到术中超声测量值vut_int,则,ω_ut_pre置为零、且ω_es和ω_ut_int的和归一化为1。
161.在本技术实施例中,内窥测量值的加权权重ω_es与超声测量值的非零加权权重ω_ut_pre和/或ω_ut_int的配比可以不是固定的,而是可以根据内窥测量值的估算测量质量而实时调节,即,在本技术的实施例中,数据处理组件32可以进一步用于:
162.基于内窥测量值的估算测量质量,确定超声测量值和内窥测量值分别对应的权重值。
163.例如,若数据处理组件32利用预先训练的神经网络模型对三维图像数据进行图像特征识别,则,神经网络模型会针对图像特征识别的识别结果提供相应的置信度,并且,神经网络模型针对图像特征识别的识别结果提供的置信度可以用于表征内窥测量值ves的估算测量质量。
164.再例如,若数据处理组件32进一步具有eis功能,即,数据处理组件32可以进一步
用于对三维图像数据进行基于电子防抖的图像位置矫正,则,基于图像位置矫正确定的内窥镜抖动幅度可以用于表征内窥测量值ves的估算测量质量。
165.无论以何种参数表征内窥测量值ves的估算测量质量,内窥测量值ves的估算测量质量越高,内窥测量值的加权权重ω_es的权重值配比越高。
166.如前文所述,在本技术的实施例中,可以通过扩展系统主机设备30的数据处理组件32的功能来实现借助内窥镜11的自动测距,可以理解是,对数据处理组件32的功能扩展可以通过改进由数据处理组件32执行的计算机程序来实现。因此,在本技术的实施例中,还提供了一种与数据处理组件32的改进计算机程序实质相同的虚拟装置,该虚拟装置可以用于测量体内组织的特征间距,因此,该虚拟装置可以称为体内组织的特征间距测量装置。
167.图13为本技术的另一个实施例中的体内组织的特征间距测量装置的示例性结构示意图。请参见图13,在本技术的实施例中,体内组织的特征间距测量装置可以包括:
168.图像处理模块1310,用于对从内窥成像组件获取到的三维图像数据进行图像特征识别,其中,该内窥成像组件(例如图1中示出的内窥成像组件10)包括内窥镜和摄像头,该摄像头用于对内窥镜的视野范围内的体内组织双目成像、并基于双目成像实时产生三维图像数据,并且,图像特征识别的识别目标可以包括体内组织的一对目标组织特征,例如,该对目标组织特征可以是子宫的两侧宫角,或者可以是肠道中的相邻结节;
169.三维测量模块1320,用于基于图像处理模块1310通过图像特征识别而成功识别出的一对目标组织特征的空间坐标位置,确定对该对目标组织特征之间的特征间距的内窥测量值。
170.其中,图像处理模块1310的图像特征识别方式、以及三维测量模块1320的空间坐标位置的确定方式,可以参照前文对数据处理组件32的相关描述,此处不再赘述。而且,作为一种功能扩展,三维测量模块1320还可以对识别出的目标组织特征进行单个特征的尺寸测量。
171.如上可见,基于摄像头在内窥镜的视野范围内对体内组织特征的双目成像,上述特征间距测量装置可以通过对双目成像得到的三维图像数据的图像特征识别,自动辨识出体内组织的目标组织特征、并利用空间坐标位置自动定位辨识出的目标组织特征,从而,基于目标组织特征的空间坐标位置,该特征间距测量装置可以自动测量得到一对目标组织特征之间的特征间距的内窥测量值,进而可以借助内窥镜实现不依赖于人眼观测的特征间距自动测量,以助于提高对体内组织的一对组织特征之间的特征间距的测量效率。
172.在实际使用时,对于一对目标组织特征同时出现在内窥镜的视野范围内的理想状态,三维测量模块1320可以具体用于:
173.响应于一对目标组织特征在同一时刻的成功识别,基于一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离,确定对该对目标组织特征之间的特征间距的内窥测量值。
174.也就是,图像处理模块1310的图像特征识别的识别结果可以包括:响应于一对目标组织特征在同一时刻的成功识别而产生的双特征识别结果。在此情况下,三维测量模块1320可以具体用于:基于图像处理模块1310的图像特征识别得到的双特征识别结果,确定得到一对目标组织特征在同一时刻的空间坐标位置;并且,通过对一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离的距离测量,确定对该对目标组织特征之间的特征
间距的内窥测量值。
175.为了缩减以理想状态为目标的调节过程的耗时,在本技术的实施例中,特征间距测量装置也可以允许一对目标组织特征分别在不同时刻出现在内窥镜的视野范围内的情况下,通过距离接续的方式完成自动测量。
176.具体地,图像处理模块1310的图像特征识别的识别目标可以进一步包括分布在一对目标组织特征之间的至少一个邻域参考特征,并且,三维测量模块1320可以具体用于:
177.响应于一对目标组织特征先后在不同时刻的成功识别,基于先后成功识别一对目标组织特征的不同时刻之间的持续时长的分段接续测量,确定该对目标组织特征之间的特征间距的内窥测量值,其中,分段接续测量中的每段测量的分段测量值可以是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点(用于确保各段测量之间是逐段接续的),并且,一对目标组织特征分别作为分段接续测量的所有测量节点中的首节点和尾节点。
178.也就是,三维测量模块1320可以具体用于:
179.响应于一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对第一组织特征与第二组织特征之间的特征间距的分段接续测量;
180.响应于第二组织特征由于内窥成像组件的位姿调节而在第一组织特征之后的单独成功识别,利用分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果,确定对该对目标组织特征之间的特征间距的内窥测量值。
181.并且,为了基于先后成功识别一对目标组织特征的不同时刻之间的持续时长的分段接续测量,图像处理模块1310进行图像特征识别的识别目标可以进一步包括分布在一对目标组织特征之间的至少一个邻域参考特征,这些邻域参考特征可以用作所有测量节点中位于首节点和尾节点之间的中间节点,在此情况下:
182.分段接续测量的测量节点包括作为首节点的第一组织特征、作为中间节点的邻域参考特征、以及作为尾节点的第二组织特征;
183.按照从第一组织特征到第二组织特征的位置排序,测量节点以两两相邻的方式被依次选定为分段接续测量的测量对象,即,对测量对象的依次选定是指,当分段接续测量中的任意一段测量结束时,该段测量的一对测量对象中作为更靠近第二组织特征的下游测量节点的特征,被选定为下一段测量的上游测量节点(即相邻的当前测量段和下一测量段这两个段测量所具有的共同测量节点),并且,该特征在靠近第二组织特征一侧的相邻特征被选定为下一段测量的下游测量节点;
184.分段接续测量的每段测量得到的分段测量值为对应选定的两个相邻的测量节点在同一时刻的空间坐标位置之间的坐标距离,从而,通过分段接续测量的所有分段测量值的累加,可以从第一组织特征开始分段接续测量距离。
185.也就是,图像处理模块1310的图像特征识别的识别结果可以包括:响应于一对目标组织特征先后在第一时刻和第二时刻的单独识别而依次产生的第一单特征识别结果和第二单特征识别结果,其中,第一时刻可以为三维图像数据中的任意3d图像对应的帧时刻,第二时刻可以为晚于第一时刻的任意后续3d图像对应的帧时刻。
186.相应地,三维测量模块1320可以先基于第一单特征识别结果(其中包含第一组织特征、以及至少一个邻域参考特征中与第一组织特征相邻的一个邻域参考特征的图像位置
信息),将确定一对目标组织特征中先被成功识别的第一组织特征、以及与第一组织特征相邻的一个邻域参考特征选定为分段接续测量的首对测量对象,并且,确定包括第一组织特征的首对测量对象在第一时刻的空间坐标位置,从而,可以基于首对测量对象在第一时刻的空间坐标位置,确定分段接续测量过程中的首段测量的分段测量值。
187.依此类推,三维测量模块1320可以响应于被选定为分段接续测量的测量对象的每次变化,都可以基于图像特征识别的后续特征识别结果中包含的变化后的一对测量对象的图像位置信息,确定该测量对象的在对应时刻的空间坐标位置,并且,基于该测量对象的在对应时刻的空间坐标位置确定对应分段的分段测量值,直至第二组织特征被成功识别。
188.三维测量模块1320还可以响应于第二单特征识别结果(其中包含第二组织特征、以及至少一个邻域参考特征中与第二组织特征相邻的一个邻域参考特征的图像位置信息),确定第二组织特征、以及与第二组织特征相邻的一个邻域参考特征选定为分段接续测量的最后一对测量对象,并且,确定包括第二组织特征的最后一对测量对象在第二时刻的空间坐标位置,从而,可以基于最后一对测量对象在第二时刻的空间坐标位置确定分段接续测量过程中的末段测量的分段测量值。
189.从而,分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果可以近似表征第一组织特征与第二组织特征之间的特征间距,并且可以基于分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果,确定对特征间距的内窥测量结果。
190.在本技术的实施例中,分段接续测量的各段测量并不是必须在时间上连续,而是可以允许相邻两段测量之间存在至少一个帧时长的间隔,并且,分段接续测量的各段测量之间是否连续、以及间隔的时长,可以是根据内窥成像组件的实际位姿调节情况(即内窥镜的视野位置调节情况)来确定的。
191.相应地,在本技术的实施例中,三维测量模块1320可以通过监测当前被选定的测量节点的空间坐标位置随时间变化的位置偏移来确定内窥成像组件的实际位姿调节情况(即内窥镜的视野位置调节情况),具体地,三维测量模块1320可以具体用于:
192.在分段接续测量的每段测量过程中,监测对应选定的测量节点(即一对测量节点中的至少一个测量节点)的空间坐标位置随时间变化的位置偏移,以在该位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换分段接续测量的测量对象而开始下一段的分段接续测量,即,将当前段测量的一对测量对象中作为更靠近第二组织特征的下游测量节点的特征,选定为下一段测量的上游测量节点,并且,将该特征在靠近第二组织特征一侧的相邻特征选定为下一段测量的下游测量节点。
193.在本技术实施例中,为了引导施术者尽快通过对内窥成像组件10的正确位姿调节完成距离接续方式的测距,三维测量模块1320可以进一步用于:
194.响应于第一组织特征先于第二组织特征的单独成功识别(例如前文提及的第一单特征识别结果),触发用于表征内窥成像组件的位姿调节的参考调节方向的第一多媒体提示信息的产生,其中,该参考调节方向是基于第一组织特征和第二组织特征之间的标定相对方位确定的,并且,该参考调节方向用于促使分段接续测量中选定的测量节点的空间坐标位置的位置偏移发生在朝向第二组织特征的方向上。
195.例如,第一多媒体提示信息可以包括第一图形可视化信息,在此情况下,三维测量模块1320可以触发图像处理模块1310产生该第一图形可视化信息,以使得该第一图像可视化信息可以通过图像处理而添加到三维图像数据中的3d图像中,以对施术者呈现;或者,第一多媒体提示信息也可以包括第一语音提示信息,在此情况下,特征间距测量装置可以进一步包括音频处理模块,并由三维测量模块1320触发该音频处理模块产生第一语音提示信息并播报。
196.在本技术的实施例中,为了在对内窥成像组件实施的位姿调节偏离于参考调节方向时即时发出报警提示,三维测量模块1320可以进一步用于:
197.在分段接续测量的期间内,利用内窥成像组件的位姿调节的参考调节方向,校验分段接续测量中选定的测量节点的空间坐标位置的位置偏移的偏移方向,如前文所述,该参考调节方向是基于第一组织特征和第二组织特征之间的标定相对方位确定的,并且,该参考调节方向用于促使分段接续测量中选定的测量节点的空间坐标位置的位置偏移发生在朝向第二组织特征的方向上;
198.响应于对该偏移方向的校验失败,触发用于表示内窥成像组件的位姿调节需复位重启的第二多媒体提示信息的产生,并且,对分段接续测量的当前累加结果清零。
199.例如,第二多媒体提示信息可以包括第二图形可视化信息,在此情况下,三维测量模块1320可以触发图像处理模块1310产生该第二图形可视化信息,以使得该第二图像可视化信息可以通过图像处理而添加到三维图像数据中的3d图像中,以对施术者呈现;或者,第二多媒体提示信息也可以包括第二语音提示信息,在此情况下,特征间距测量装置可以进一步包括音频处理模块,并由三维测量模块1320触发该音频处理模块产生第二语音提示信息并播报。
200.在本技术的实施例中,特征间距测量装置可以支持内窥测量值与超声检测系统对相同的一对组织特征之间的特征间距的超声测量值的融合,该融合是以对手术流畅性的影响最小化为前提的,并且,适用该融合的场景条件如前文所述,此处不再赘述。
201.图14为如图13所示实施例中的特征间距测量装置的扩展结构示意图。请参见图14,在本技术的实施例中,特征间距测量装置可以进一步包括结果融合模块1330,该结果融合模块1330用于:
202.获取超声检测系统对一对目标组织特征之间的特征间距的超声测量值;
203.基于内窥测量值与超声测量值的加权值,确定对该对目标组织特征之间的特征间距的测距结果。
204.关于超声测量值的类型以及加权权重的置零及归一化规则,可以参见前述实施例中关于数据处理组件32的相关说明,此处不再赘述。另如前述实施例所述,内窥测量值的加权权重与超声测量值的非零加权权重的配比可以不是固定的,而是可以根据内窥测量值的估算测量质量而实时调节,即,在本技术的实施例中,结果融合模块1330可以进一步用于:
205.基于内窥测量值的估算测量质量,确定超声测量值和内窥测量值分别对应的权重值。
206.例如,若图像处理模块1310利用预先训练的神经网络模型对三维图像数据进行图像特征识别,则,神经网络模型会针对图像特征识别的识别结果提供相应的置信度,并且,神经网络模型针对图像特征识别的识别结果提供的置信度可以用于表征内窥测量值的估
算测量质量。
207.再例如,若图像处理模块1310可以进一步用于对三维图像数据进行基于电子防抖的图像位置矫正,则,基于图像位置矫正确定的内窥镜抖动幅度可以用于表征内窥测量值的估算测量质量。
208.无论以何种参数表征内窥测量值的估算测量质量,内窥测量值的估算测量质量越高,内窥测量值的加权权重的权重值配比越高。
209.在本技术的另一个实施例中,还提供了一种基于计算机程序实现的体内组织的特征间距测量方法。
210.图15为本技术的另一个实施例中的体内组织的特征间距测量方法的示例性结构示意图。请参见图15,在本技术的实施例中,体内组织的特征间距测量方法可以包括:
211.s1510,对从内窥成像组件获取到的三维图像数据进行图像特征识别,其中,该内窥成像组件包括内窥镜和摄像头,该摄像头用于对内窥镜的视野范围内的体内组织双目成像、并基于双目成像实时产生三维图像数据,并且,图像特征识别的识别目标可以包括体内组织的一对目标组织特征(例如,该对目标组织特征可以是子宫的两侧宫角,或者可以是肠道中的相邻结节)。
212.本步骤的图像特征识别方式可以参照前文对数据处理组件32的相关描述,此处不再赘述。
213.s1520,基于通过图像特征识别而成功识别到的一对目标组织特征的空间坐标位置,确定对该对目标组织特征之间的特征间距的内窥测量值。
214.本步骤所基于的空间坐标位置的确定方式,可以参照前文对数据处理组件32的相关描述,此处不再赘述。
215.如上可见,基于摄像头在内窥镜的视野范围内对体内组织特征的双目成像,上述特征间距测量方法可以通过对双目成像得到的三维图像数据的图像特征识别,自动辨识出体内组织的目标组织特征、并利用空间坐标位置自动定位辨识出的目标组织特征,从而,基于目标组织特征的空间坐标位置,该特征间距测量方法可以自动测量得到一对目标组织特征之间的特征间距的内窥测量值,进而可以借助内窥镜实现不依赖于人眼观测的特征间距自动测量,以助于提高对体内组织的一对组织特征之间的特征间距的测量效率。
216.在实际使用时,对于一对目标组织特征同时出现在内窥镜的视野范围内的理想状态,s1520可以具体包括:
217.响应于一对目标组织特征在同一时刻的成功识别,基于一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离,确定对该对目标组织特征之间的特征间距的内窥测量值。
218.也就是,s1510的图像特征识别的识别结果可以包括:响应于一对目标组织特征在同一时刻的成功识别而产生的双特征识别结果。在此情况下,s1520可以先基于图像特征识别得到的双特征识别结果,确定得到一对目标组织特征在同一时刻的空间坐标位置,例如,基于利用同一帧3d图像得到的图像位置信息、以及摄像头12的标定相机参数(即内参矩阵和外参矩阵),确定得到一对目标组织特征在该帧3d图像的对应时刻的空间坐标位置;然后,再通过对一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离的距离测量,确定对该对目标组织特征之间的特征间距的内窥测量值。
219.为了缩减以理想状态为目标的调节过程的耗时,在本技术的实施例中,特征间距测量方法可以允许一对目标组织特征分别在不同时刻出现在内窥镜的视野范围内的情况下,通过距离接续的方式完成自动测量。即,s1510的图像特征识别的识别目标可以进一步包括分布在一对目标组织特征之间的至少一个邻域参考特征,并且,s1520可以具体包括:
220.响应于一对目标组织特征先后在不同时刻的成功识别,基于先后成功识别一对目标组织特征的不同时刻之间的持续时长的分段接续测量,确定该对目标组织特征之间的特征间距的内窥测量值,其中,分段接续测量中的每段测量的分段测量值可以是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点(用于确保各段测量之间是逐段接续的),并且,一对目标组织特征分别作为分段接续测量的所有测量节点中的首节点和尾节点。
221.例如,s1520基于先后成功识别一对目标组织特征的不同时刻之间的持续时长的分段接续测量,确定该对目标组织特征之间的特征间距的内窥测量值的过程,可以包括:
222.响应于一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对第一组织特征与第二组织特征之间的特征间距的分段接续测量;
223.响应于第二组织特征由于内窥成像组件的位姿调节而在第一组织特征之后的单独成功识别,利用分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果,确定对该对目标组织特征之间的特征间距的内窥测量值。
224.对于s1520的上述步骤中涉及的分段接续测量:
225.分段接续测量的测量节点包括作为首节点的第一组织特征、作为中间节点的邻域参考特征、以及作为尾节点的第二组织特征;
226.按照从第一组织特征到第二组织特征的位置排序,测量节点以两两相邻的方式被依次选定为分段接续测量的测量对象,即,对测量对象的依次选定是指,当分段接续测量中的任意一段测量结束时,该段测量的一对测量对象中作为更靠近第二组织特征的下游测量节点的特征,被选定为下一段测量的上游测量节点,并且,该特征在靠近第二组织特征一侧的相邻特征被选定为下一段测量的下游测量节点;
227.分段接续测量的每段测量得到的分段测量值为对应选定的两个相邻的测量节点在同一时刻的空间坐标位置之间的坐标距离,从而,通过分段接续测量的所有分段测量值的累加,可以从第一组织特征开始分段接续测量距离。
228.也就是,s1510的图像特征识别的识别结果可以包括:响应于一对目标组织特征先后在第一时刻和第二时刻的单独识别而依次产生的第一单特征识别结果和第二单特征识别结果,其中,第一时刻可以为三维图像数据中的任意3d图像对应的帧时刻,第二时刻可以为晚于第一时刻的任意后续3d图像对应的帧时刻。
229.在此情况下,s1520可以先基于第一单特征识别结果(其中包含第一组织特征、以及至少一个邻域参考特征中与第一组织特征相邻的一个邻域参考特征的图像位置信息),将确定一对目标组织特征中先被成功识别的第一组织特征、以及与第一组织特征相邻的一个邻域参考特征选定为分段接续测量的首对测量对象,并且,确定包括第一组织特征的首对测量对象在第一时刻的空间坐标位置,从而,可以基于首对测量对象在第一时刻的空间坐标位置,确定分段接续测量过程中的首段测量的分段测量值。
230.依此类推,s1520可以响应于被选定为分段接续测量的测量对象的每次变化,都可
以基于图像特征识别的后续特征识别结果中包含的变化后的一对测量对象的图像位置信息,确定该测量对象的在对应时刻的空间坐标位置,并且,基于该测量对象的在对应时刻的空间坐标位置确定对应分段的分段测量值,直至第二组织特征被成功识别。
231.s1520还可以响应于第二单特征识别结果(其中包含第二组织特征、以及至少一个邻域参考特征中与第二组织特征相邻的一个邻域参考特征的图像位置信息),确定第二组织特征、以及与第二组织特征相邻的一个邻域参考特征选定为分段接续测量的最后一对测量对象,并且,确定包括第二组织特征的最后一对测量对象在第二时刻的空间坐标位置,从而,可以基于最后一对测量对象在第二时刻的空间坐标位置确定分段接续测量过程中的末段测量的分段测量值。
232.从而,分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果可以近似表征第一组织特征与第二组织特征之间的特征间距,并且可以基于分段接续测量的分段测量值在第二组织特征被单独成功识别时截止的累加结果,确定对特征间距的内窥测量结果。
233.在本技术的实施例中,分段接续测量的各段测量并不是必须在时间上连续,而是可以允许相邻两段测量之间存在至少一个帧时长的间隔,并且,分段接续测量的各段测量之间是否连续、以及间隔的时长,可以是根据内窥成像组件的实际位姿调节情况(即内窥镜的视野位置调节情况)来确定的。相应地,在本技术的实施例中,s1520可以通过监测当前被选定的测量节点的空间坐标位置随时间变化的位置偏移来确定内窥成像组件的实际位姿调节情况(即内窥镜的视野位置调节情况),具体地,s1520可以具体包括:
234.在分段接续测量的每段测量过程中,监测对应选定的测量节点(即一对测量节点中的至少一个测量节点)的空间坐标位置随时间变化的位置偏移,以在该位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换分段接续测量的测量对象而开始下一段的分段接续测量,即,将当前段测量的一对测量对象中作为更靠近第二组织特征的下游测量节点的特征,选定为下一段测量的上游测量节点,并且,将该特征在靠近第二组织特征一侧的相邻特征选定为下一段测量的下游测量节点。
235.在本技术实施例中,为了引导施术者尽快通过对内窥成像组件的正确位姿调节完成距离接续方式的测距,特征间距测量方法进一步包括:
236.响应于第一组织特征先于第二组织特征的单独成功识别(例如前文提及的第一单特征识别结果),产生用于表征内窥成像组件的位姿调节的参考调节方向的第一多媒体提示信息,例如,第一多媒体提示信息可以包括第一图形可视化信息或第一语音提示信息,其中,该参考调节方向是基于第一组织特征和第二组织特征之间的标定相对方位确定的,并且,该参考调节方向用于促使分段接续测量中选定的测量节点的空间坐标位置的位置偏移发生在朝向第二组织特征的方向上,即,促使第二组织特征在内窥镜的视野范围内出现、并在第一组织特征之后被成功识别。
237.在本技术的实施例中,为了在对内窥成像组件实施的位姿调节偏离于参考调节方向时即时发出报警提示,特征间距测量方法进一步包括:
238.在分段接续测量的期间内,利用内窥成像组件的位姿调节的参考调节方向,校验分段接续测量中选定的测量节点的空间坐标位置的位置偏移的偏移方向,如前文所述,该
参考调节方向是基于第一组织特征和第二组织特征之间的标定相对方位确定的,并且,该参考调节方向用于促使分段接续测量中选定的测量节点的空间坐标位置的位置偏移发生在朝向第二组织特征的方向上;
239.响应于对该偏移方向的校验失败,产生用于指示内窥成像组件10的位姿调节需复位重启的第二多媒体提示信息,即,分段接续测量也需要重新开始,例如,第二多媒体提示信息可以包括第二图形可视化信息或第二语音提示信息,并且,对分段接续测量的当前累加结果清零。
240.在本技术的实施例中,特征间距测量方法可以支持内窥测量值与超声检测系统对相同的一对组织特征之间的特征间距的超声测量值的融合,该融合是以对手术流畅性的影响最小化为前提的,并且,适用该融合的场景条件如前文所述,此处不再赘述。
241.图16为如图15所示实施例中的特征间距测量方法的扩展流程示意图。请参见图16,在本技术的实施例中,特征间距测量方法可以在s1530之后进一步包括:
242.s1530,获取超声检测系统对一对目标组织特征之间的特征间距的超声测量值;
243.s1550,基于内窥测量值与超声测量值的加权值,确定对该对目标组织特征之间的特征间距的测距结果。
244.关于超声测量值的类型以及加权权重的置零及归一化规则,可以参见前述实施例中关于数据处理组件32的相关说明,此处不再赘述。另如前述实施例所述,内窥测量值的加权权重与超声测量值的非零加权权重的配比可以不是固定的,而是可以根据内窥测量值的估算测量质量而实时调节,即,在本技术的实施例中,特征间距测量方法在s1540与s1560之间,可以进一步包括:
245.s1540,基于内窥测量值的估算测量质量,确定超声测量值和内窥测量值分别对应的权重值。
246.例如,若s1510利用预先训练的神经网络模型对三维图像数据进行图像特征识别,则,神经网络模型会针对图像特征识别的识别结果提供相应的置信度,并且,神经网络模型针对图像特征识别的识别结果提供的置信度可以用于表征内窥测量值的估算测量质量。
247.再例如,若特征间距测量方法进一步包括:对三维图像数据进行基于电子防抖的图像位置矫正,则,基于图像位置矫正确定的内窥镜抖动幅度可以用于表征内窥测量值的估算测量质量。
248.无论以何种参数表征内窥测量值的估算测量质量,内窥测量值的估算测量质量越高,内窥测量值的加权权重的权重值配比越高。
249.在本技术的另一个实施例中,还提供了一种非瞬时计算机可读存储介质,该非瞬时计算机可读存储介质存储指令,这些指令在由处理器执行时使得该处理器执行前述实施例中的特征间距测量方法。
250.以上所述仅为本技术的较佳实施例而已,并不用以限制本技术,凡在本技术的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本技术保护的范围之内。

技术特征:


1.一种内窥镜系统,其特征在于,包括:内窥成组件,包括内窥镜和摄像头,所述摄像头用于对所述内窥镜的视野范围内的体内组织双目成像、并基于所述双目成像实时产生三维图像数据;数据处理组件,用于:对所述三维图像数据进行图像特征识别,所述图像特征识别的识别目标包括所述体内组织的一对目标组织特征;基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值。2.根据权利要求1所述的内窥镜系统,其特征在于,所述数据处理组件进一步用于:获取超声检测系统对所述一对目标组织特征之间的特征间距的超声测量值;基于所述内窥测量值与所述超声测量值的加权值,确定所述特征间距的测距结果。3.根据权利要求2所述的内窥镜系统,其特征在于,所述数据处理组件进一步用于:基于所述内窥测量值的估算测量质量,确定所述超声测量值和所述内窥测量值分别对应的权重值。4.根据权利要求3所述的内窥镜系统,其特征在于,所述数据处理组件进一步用于:利用预先训练的神经网络模型对所述三维图像数据进行所述图像特征识别,所述神经网络模型针对所述图像特征识别的识别结果提供的置信度用于表征所述内窥测量值的估算测量质量;或者,对所述三维图像数据进行基于电子防抖的图像位置矫正,基于所述图像位置矫正确定的内窥镜抖动幅度用于表征所述内窥测量值的估算测量质量。5.根据权利要求1所述的内窥镜系统,其特征在于,所述数据处理组件具体用于:响应于所述一对目标组织特征在同一时刻的成功识别,基于所述一对目标组织特征在同一时刻的空间坐标位置之间的坐标距离,确定所述内窥测量值;或者,响应于所述一对目标组织特征先后在不同时刻的成功识别,基于所述不同时刻之间的持续时长的分段接续测量,确定所述内窥测量值,其中,所述分段接续测量中的每段测量的分段测量值是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点,并且,所述一对目标组织特征分别作为所述分段接续测量的所有测量节点中的首节点和尾节点。6.根据权利要求5所述的内窥镜系统,其特征在于,所述图像特征识别的识别目标进一步包括分布在所述一对目标组织特征之间的至少一个邻域参考特征;所述数据处理组件具体用于:响应于所述一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对所述第一组织特征与所述第二组织特征之间的特征间距的所述分段接续测量;响应于所述第二组织特征由于所述内窥成像组件的位姿调节而在所述第一组织特征之后的单独成功识别,利用所述分段接续测量的分段测量值在所述第二组织特征被单独成
功识别时截止的累加结果,确定所述内窥测量值;其中,所述分段接续测量的测量节点包括作为首节点的所述第一组织特征、作为中间节点的所述邻域参考特征、以及作为尾节点的所述第二组织特征;并且,按照从所述第一组织特征到所述第二组织特征的位置排序,所述测量节点以两两相邻的方式被依次选定为所述分段接续测量的测量对象,所述分段接续测量的每段测量得到的所述分段测量值为对应选定的两个相邻的所述测量节点在同一时刻的空间坐标位置之间的坐标距离。7.根据权利要求6所述的内窥镜系统,其特征在于,所述数据处理组件具体用于:在所述分段接续测量的每段测量过程中,监测对应选定的所述测量节点的空间坐标位置随时间变化的位置偏移,以在所述位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换所述分段接续测量的测量对象而开始下一段的分段接续测量。8.根据权利要求7所述的内窥镜系统,其特征在于,所述数据处理组件进一步用于:响应于所述第一组织特征先于所述第二组织特征的单独成功识别,产生用于表征所述内窥成像组件的所述位姿调节的参考调节方向的第一多媒体提示信息,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上;或者,所述数据处理组件进一步用于:在所述分段接续测量的期间内,利用所述内窥成像组件的所述位姿调节的参考调节方向,校验所述位置偏移的偏移方向,其中,所述参考调节方向是基于所述第一组织特征和所述第二组织特征之间的标定相对方位确定的,并且,所述参考调节方向用于促使所述位置偏移发生在朝向所述第二组织特征的方向上;响应于对所述偏移方向的校验失败,产生用于指示所述内窥成像组件的所述位姿调节需复位重启的第二多媒体提示信息,并且,对所述分段接续测量的当前累加结果清零。9.一种体内组织的特征间距测量装置,其特征在于,包括:图像处理模块,用于对从内窥成像组件获取到的三维图像数据进行图像特征识别,其中,所述内窥成像组件包括内窥镜和摄像头,所述摄像头用于对所述内窥镜的视野范围内的体内组织双目成像、并基于所述双目成像实时产生所述三维图像数据,所述图像特征识别的识别目标包括所述体内组织的一对目标组织特征;三维测量模块,用于基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值。10.根据权利要求9所述的特征间距测量装置,其特征在于,所述特征间距测量装置进一步包括结果融合模块,用于:获取超声检测系统对所述一对目标组织特征之间的特征间距的超声测量值;基于所述内窥测量值与所述超声测量值的加权值,确定所述特征间距的测距结果。11.根据权利要求9所述的特征间距测量装置,其特征在于,所述三维测量模块具体用于:响应于所述一对目标组织特征在同一时刻的成功识别,基于所述一对目标组织特征在
同一时刻的空间坐标位置之间的坐标距离,确定所述内窥测量值;或者响应于所述一对目标组织特征先后在不同时刻的成功识别,基于所述不同时刻之间的持续时长的分段接续测量,确定所述内窥测量值,其中,所述分段接续测量中的每段测量的分段测量值是基于两个测量节点在同一时刻的空间坐标位置之间的坐标距离的确定的,相邻的两段测量具有一个共同的测量节点,并且,所述一对目标组织特征分别作为所述分段接续测量的所有测量节点中的首节点和尾节点。12.根据权利要求11所述的特征间距测量装置,其特征在于,所述图像特征识别的识别目标进一步包括分布在所述一对目标组织特征之间的至少一个邻域参考特征;所述三维测量模块具体用于:响应于所述一对目标组织特征中的第一组织特征先于第二组织特征的单独成功识别,开始对所述第一组织特征与所述第二组织特征之间的特征间距的所述分段接续测量;响应于所述第二组织特征由于所述内窥成像组件的位姿调节而在所述第一组织特征之后的单独成功识别,利用所述分段接续测量的分段测量值在所述第二组织特征被单独成功识别时截止的累加结果,确定所述内窥测量值;其中,所述分段接续测量的测量节点包括作为首节点的所述第一组织特征、作为中间节点的所述邻域参考特征、以及作为尾节点的所述第二组织特征;并且,按照从所述第一组织特征到所述第二组织特征的位置排序,所述测量节点以两两相邻的方式被依次选定为所述分段接续测量的测量对象,所述分段接续测量的每段测量得到的所述分段测量值为对应选定的两个相邻的所述测量节点在同一时刻的空间坐标位置之间的坐标距离。13.根据权利要求12所述的特征间距测量装置,其特征在于,所述三维测量模块具体用于:在所述分段接续测量的每段测量过程中,监测对应选定的所述测量节点的空间坐标位置随时间变化的位置偏移,以在所述位置偏移达到预设的偏移量阈值、且成功识别到用于被选定为下一段的测量对象的相邻特征时,通过切换所述分段接续测量的测量对象而开始下一段的分段接续测量。14.一种体内组织的特征间距测量方法,其特征在于,包括:对从内窥成像组件获取到的三维图像数据进行图像特征识别,其中,所述内窥成像组件包括内窥镜和摄像头,所述摄像头用于对所述内窥镜的视野范围内的体内组织双目成像、并基于所述双目成像实时产生所述三维图像数据,所述图像特征识别的识别目标包括所述体内组织的一对目标组织特征;基于成功识别到的所述一对目标组织特征的空间坐标位置,确定对所述一对目标组织特征之间的特征间距的内窥测量值。15.一种非瞬时计算机可读存储介质,其特征在于,所述非瞬时计算机可读存储介质存储指令,所述指令在由处理器执行时使得所述处理器执行如权利要求14所述的特征间距测量方法。

技术总结


本申请公开了内窥镜系统以及体内组织的特征间距测量装置和方法。基于本申请,可以利用摄像头在内窥镜的视野范围内对体内组织特征双目成像,而且,通过对双目成像得到的三维图像数据的图像特征识别,可以自动辨识出体内组织的目标组织特征、并利用空间坐标位置自动定位辨识出的目标组织特征,从而,基于目标组织特征的空间坐标位置可以自动测量得到一对目标组织特征之间的特征间距的内窥测量值,进而可以借助内窥镜实现不依赖于人眼观测的特征间距自动测量,以助于提高对体内组织的一对组织特征之间的特征间距的测量效率。另外,本申请还可以支持内窥测量值与超声检测系统对同一对组织特征之间的特征间距的超声测量值的融合。的融合。的融合。


技术研发人员:

刘恩毅 贺光琳

受保护的技术使用者:

杭州海康慧影科技有限公司

技术研发日:

2022.11.21

技术公布日:

2023/3/3

本文发布于:2024-09-25 00:36:22,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/4/64659.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:特征   测量   所述   组织
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议