本发明涉及的是一种图像处理领域的技术,具体是一种适用于少量采样网格的基于区域感知的三维牙齿分割方法。
背景技术:
1、目前的三维牙齿分割方法优先考虑捕获局部信息(如pointnet)或者提取全局特征(如tsgcnet),从而忽略了两种不同特征有效融合的重要性。此外,现有三维牙齿分割技术大都需要利用大量网格信息,带来巨大的计算开销;另外仅采用k最近邻算法融合信息时难以解决牙齿重叠时的信息融合错误问题,当两颗畸形牙齿高度重叠时,容易将临近牙齿的网格信息聚合到目标牙齿的网格信息上,造成分类错误。
技术实现思路
1、本发明针对现有技术存在的上述不足,提出一种基于区域感知的三维牙齿分割方法,克服现有技术在处理局部和全局信息方面的局限性,以促进局部和全局特征的有效融合。
2、本发明是通过以下技术方案实现的:
3、本发明涉及一种适用于少量采样网格的基于区域感知的三维牙齿分割方法,在离线阶段构造双分支深度学习网络(ragcnet),将原始网格数据作为训练集分别通过嵌入法向量分支和坐标分支并由区域感知模块(ram)进行多级特征融合进而得到分割结果,从而通过计算负对数似然分割损失和质心损失调整网络参数实现训练;在在线阶段通过训练后的双分支深度学习网络根据输入的网格属性矩阵实时得到每个牙齿模型对应的从属类别概率。
4、本发明涉及一种实现上述方法的系统,包括:数据预处理单元、深度学习网络(ragcnet)训练单元、在线阶段分类单元以及分割结果后处理单元,其中:数据预处理单元根据口扫仪获取的三维网格牙齿模型,进行下采样处理,得到原始输入的特征表示;深度学习网络(ragcnet)训练单元根据经过数据预处理单元处理的特征表示,使用fps进行二次采样,使用嵌入法向量分支和坐标分支,通过区域感知模块(ram)进行多级特征融合,经过感知集预测分类概率,通过与真实值对比计算负对数似然分割损失和质心损失,反向传播训练ragcnet网络;在线阶段分类单元根据数据预处理单元重新处理且未经训练的患者牙齿模型的网格属性矩阵信息,使用训练后的ragcnet网络,实时得到每个牙齿模型对应的从属类别概率;分割结果后处理单元根据在现阶段分类单元得到的从属类别概率对原始模型的每个网格进行分类赋色可视化处理,输出最终的分割模型。
5、技术效果
6、本发明采用区域感知融合模块,分别对三维牙齿模型的全局和局部特征进行提取并融合;考虑牙齿模型的几何信息,在损失函数增加牙齿质心损失函数;采用fps结合knn,利用少量采样网格信息进行特征提取;与现有技术相比,本发明显著提高三维牙齿分割的整体精确度,在三个指标:总体精度,平均交并比,平均精度上达到:总体分割精度oa为95.30±0.11%,平均交并比miou为:89.20±0.25%,平均精度macc为:95.02±0.17%。同时本发明大幅度降低网络模型对gpu占用,降低计算成本。当采样网格为2000时,gpu占用10719mib。
1.一种适用于少量采样网格的基于区域感知的三维牙齿分割方法,其特征在于,在离线阶段构造双分支深度学习网络,将原始网格数据作为训练集分别通过嵌入法向量分支和坐标分支并由区域感知模块进行多级特征融合进而得到分割结果,从而通过计算负对数似然分割损失和质心损失调整网络参数实现训练;在在线阶段通过训练后的双分支深度学习网络根据输入的网格属性矩阵实时得到每个牙齿模型对应的从属类别概率。
2.根据权利要求1所述的基于区域感知的三维牙齿分割方法,其特征是,所述的双分支深度学习网络ragcnet包括:嵌入法向量分支、坐标分支、聚类模块、区域感知模块和整合模块,其中:嵌入法向量分支根据输入牙齿模型的n*12维法向量信息,进行卷积嵌入处理,得到n*512维法向量特征信息,坐标分支获取输入牙齿模型的n*12维坐标信息,送入聚类模块,聚类模块根据坐标分支送入的坐标信息,采用修正的最远点采样算法均匀下采样m个网格,并以m个网格为中心,利用k最近邻算法得到m*12维中心网格坐标信息和m*k*12维邻居网格坐标信息,区域感知模块全面考虑牙齿模型的整体和细节区域,分别进行全局和局部两方面的特征信息提取,对于全局特征信息,分别对中心网格坐标信息和邻居网格坐标信息进行一维卷积以及全局池化并分别进行上采样,拼接后得到n*512维的全局特征信息;对于局部特征信息,修改中心网格维度为m*k*12,和邻居网格相加送入图卷积块,得到n*512维的局部特征信息,再利用基于注意力的特征融合方法融合全局和局部特征信息,最终得到n*512维的坐标特征信息作为区域感知模块的输出,整合模块将法向量嵌入特征和坐标特征整合得到多视图特征矩阵后通过预测多层感知机得到分割结果。
3.根据权利要求2所述的基于区域感知的三维牙齿分割方法,其特征是,所述的区域感知模块包括:两个一维卷积单元、由图卷积块组成的图卷积网络、池化单元、上采样单元以及注意力特征融合单元,其中:一维卷积单元根据中心网格和邻居网格坐标信息,进行一维卷积处理,得到初始特征信息,池化单元根据初始特征信息,进行全局最大池化和全局平均池化得到两部分全局特征信息fg1和fg2,上采样单元分别对fg1和fg2进行上采样处理并拼接融合,得到最终全局特征信息fg,图卷积网络根据中心网格和邻居网格坐标信息,进行图卷积处理,得到局部特征信息fl。
4.根据权利要求2所述的基于区域感知的三维牙齿分割方法,其特征是,所述的修正的最远点采样算法,具体包括:
5.根据权利要求4所述的基于区域感知的三维牙齿分割方法,其特征是,以m个采样网格为中心,并采用k最近邻算法来获取k个相邻网格的邻居信息fn,然后输入编码器mlpg2以提取邻居网格的全局特征fg2,它结合使用了卷积和全局最大池化操作,具体为:其中:fcoor表示原始输入法向量信息,mlpg2(·)表示包含三个连续一维卷积的多层感知器,分别是64个通道,128个通道和256个通道,gmp表示全局最大池化处理。
6.根据权利要求1所述的基于区域感知的三维牙齿分割方法,其特征是,所述的局部特征信息,通过以下方式提取得到:
7.根据权利要求1所述的基于区域感知的三维牙齿分割方法,其特征是,所述的上采样,具体包括:
8.根据权利要求1所述的基于区域感知的三维牙齿分割方法,其特征是,所述的双分支深度学习网络ragcnet,通过负对数似然分割损失和质心损失进行训练,具体为:losstotal=lossm+lossc,其中:负对数似然分割损失yij是第i个样本的实际类分布,yij'表示第i个样本的模型预测的类概率分布;gi是第i颗牙齿质心的真实值,ci是第i颗牙齿质心的预测值,i是每个模型中的牙齿数。
9.根据权利要求8所述的基于区域感知的三维牙齿分割方法,其特征是,所述的牙齿质心的预测值,通过以下方式得到:
10.一种实现权利要求1-9中任一所述方法的的基于区域感知的三维牙齿分割系统,其特征在于,包括:数据预处理单元、深度学习网络训练单元、在线阶段分类单元以及分割结果后处理单元,其中:数据预处理单元根据口扫仪获取的三维网格牙齿模型,进行下采样处理,得到原始输入的特征表示;深度学习网络训练单元根据经过数据预处理单元处理的特征表示,使用fps进行二次采样,使用嵌入法向量分支和坐标分支,通过区域感知模块进行多级特征融合,经过感知集预测分类概率,通过与真实值对比计算负对数似然分割损失和质心损失,反向传播训练ragcnet网络;在线阶段分类单元根据数据预处理单元重新处理且未经训练的患者牙齿模型的网格属性矩阵信息,使用训练后的ragcnet网络,实时得到每个牙齿模型对应的从属类别概率;分割结果后处理单元根据在现阶段分类单元得到的从属类别概率对原始模型的每个网格进行分类赋色可视化处理,输出最终的分割模型。