本发明属于计算机视觉,特别涉及一种用于3d点云场景语义分割的局部上下文特征提取模块。
背景技术:
1、由于卷积网络在2d图像上的兴起,很多研究者开始将神经网络应用于3d数据,但是,大部分工作都是将3d点云体素化或者转换为多个视角的2d图像,然后应用常规的卷积神经网络,pointnet主要解决了如何将2d神经网络直接用于处理3d点云本身,即使点云出现波动,噪声或者缺失的情况也能稳定的提取点集特征。但对于pointnet和pointnet++而言最大的不足就是他们只提取了全局特征,丢失了很多信息,虽然pointnet++设计了sa层,用于提取周围点特征,但是提取的效果不好,而且计算量比较差,另一方面由于采用的是fps(最远点采样),这样的好处是可以尽可能地保留点云空间的特征,但是坏处就是计算大场景的点云的计算速度慢,内存要求高。
技术实现思路
1、本说明书实施例的目的是提供一种用于3d点云场景语义分割的局部上下文特征提取模块。
2、为解决上述技术问题,本申请实施例通过以下方式实现的:
3、第一方面,本申请提供一种用于3d点云场景语义分割的局部上下文特征提取模块,该局部上下文特征提取模块包括:
4、旋转不变性的局部表示,旋转不变性的局部表示接收局部空间信息,局部空间信息包括若干点的坐标信息;
5、根据局部空间信息,计算每个点的局部旋转不变性表示;
6、查找局部邻域的质心点,并计算质心点与邻近点的相对点的位置编码;
7、根据每个点的局部旋转不变性表示及相对点的位置编码,确定局部上下文特征。
8、在其中一个实施例中,局部空间信息记为(k,3),每个点的局部旋转不变性表示包括x轴、y轴、z轴的旋转不变性表示;
9、其中,关于z轴的旋转不变性表示:
10、
11、
12、关于x轴的旋转不变性表示:
13、
14、
15、关于y轴的旋转不变性表示:
16、
17、
18、其中,k=(1,2,…,k),为i点的第k邻近点的坐标,(xim,yim,zim)为i点所在点云的质心点的坐标。
19、在其中一个实施例中,计算质心点与邻近点的相对点的位置编码,包括:
20、确定质心点的坐标;
21、确定邻近点的坐标;
22、根据质心点的坐标及邻近点的坐标,计算质心点与邻近点的坐标差及欧氏距离;
23、根据质心点的坐标、邻近点的坐标、坐标差及欧式距离,确定质心点与邻近点的相对点的位置编码。
24、在其中一个实施例中,质心点的坐标pi,第k个邻近点的坐标则质心点与第k个邻近点的相对点的位置编码为:
25、
26、其中,表示质心点与第k个邻近点的坐标差,表示质心点与第k个邻近点的欧式距离。
27、在其中一个实施例中,根据每个点的局部旋转不变性表示及相对点的位置编码,确定局部上下文特征,包括:
28、对x轴、z轴的旋转不变性表示引入权重,根据每个点的y轴的旋转不变性表示、相对点的位置编码及引入权重后的x轴、z轴的旋转不变性表示,确定局部上下文特征。
29、在其中一个实施例中,局部上下文特征为:
30、
31、其中,λ为x轴旋转不变性表示的权重,μ为z轴旋转不变性表示的权重,rik为相对点的位置编码。
32、在其中一个实施例中,局部上下文特征提取模块还包括:注意力池化,注意力池化通过几何距离和特征距离学习注意力权重对局部上下文特征进行加权获得增强的局部上下文特征。
33、在其中一个实施例中,通过几何距离和特征距离学习注意力权重对局部上下文特征进行加权获得增强的局部上下文特征,包括:
34、计算局部空间信息中点与点之间的几何距离;
35、计算特征距离;
36、根据几何距离和特征距离学习注意力池的权重;
37、将注意力池的权重和局部上下文特征级联合并,并共享mlp和归一化指数函数得到注意力权重;
38、根据注意力权重和相邻点特征得到增强的局部上下文特征。
39、第二方面,本申请提供一种3d点云场景语义分割网络,该网络包括第一方面的用于3d点云场景语义分割的局部上下文特征提取模块和编码器架构;
40、用于3d点云场景语义分割的局部上下文特征提取模块嵌入编码器架构中。
41、由以上本说明书实施例提供的技术方案可见,该方案:学习具有x-y-z三轴旋转不变性的局部特征,同时弥补随机采样可能导致许多有用的点特征丢失。
1.一种用于3d点云场景语义分割的局部上下文特征提取模块,其特征在于,所述局部上下文特征提取模块包括:
2.根据权利要求1所述的局部上下文特征提取模块,其特征在于,所述局部空间信息记为(k,3),每个点的所述局部旋转不变性表示包括x轴、y轴、z轴的旋转不变性表示;
3.根据权利要求1所述的局部上下文特征提取模块,其特征在于,所述计算所述质心点与邻近点的相对点的位置编码,包括:
4.根据权利要求3所述的局部上下文特征提取模块,其特征在于,所述质心点的坐标pi,第k个邻近点的坐标则所述质心点与第k个邻近点的相对点的位置编码为:
5.根据权利要求2所述的局部上下文特征提取模块,其特征在于,所述根据每个点的所述局部旋转不变性表示及所述相对点的位置编码,确定局部上下文特征,包括:
6.根据权利要求5所述的局部上下文特征提取模块,其特征在于,所述局部上下文特征为:
7.根据权利要求1所述的局部上下文特征提取模块,其特征在于,所述局部上下文特征提取模块还包括:注意力池化,所述注意力池化通过几何距离和特征距离学习注意力权重对所述局部上下文特征进行加权获得增强的局部上下文特征。
8.根据权利要求7所述的局部上下文特征提取模块,其特征在于,通过几何距离和特征距离学习注意力权重对所述局部上下文特征进行加权获得增强的局部上下文特征,包括:
9.一种3d点云场景语义分割网络,其特征在于,所述网络包括如权利要求1-8任一项所述的用于3d点云场景语义分割的局部上下文特征提取模块和编码器架构;