本发明属于光学显微测量、成像,具体为一种基于深度学习的单帧超分辨率端到端定量相位显微成像方法。
背景技术:
1、生物医学显微成像是研究活细胞和未染色生物样本的重要手段,然而这些样本通常属于相位物体,即它们对入射光的振幅透射率分布均匀,而折射率或厚度分布不均匀,导致入射光的波长和振幅变化很小,而相位变化很大。由于人眼和光学探测器无法直接观察到相位差,因此需要采用一些方法来将相位信息转化为可见的图像。目前最常用的方法是对细胞进行染色或标记,利用细胞内部不同组分对不同化学或荧光染料的不同亲和性,形成足够大的光强反差或生不同的光谱,从而使其在显微镜下可见。21世纪以来,超分辨荧光显微技术快速发展并突破了衍射极限,将成像分辨率提升至几十纳米,为亚细胞结构的研究提供了新的视角。然而,此类技术也存在一些局限性,例如不适用于非荧光细胞样本和内部无法荧光标记结构品的成像,以及外源性荧光剂导致的光毒性和光漂白问题等([1]stephens d j,allan v j.light microscopy techniques for live cell imaging[j].science,2003,300(5616):82-86.)。
2、近年来,生物医学显微成像研究的一大热点是无标记定量相位显微成像成(quantitative phase imaging,qpi)技术。qpi是一种无需染色标记的生物医学成像方法,它能够以非破坏性的方式量化的未被荧光标记或染色的透明生物样本的光学相位延迟信息,从而揭示其内在结构和光学特性。qpi有多种实现方式,代表性的技术由光强传输方程(transport ofintensity equation,tie)([2]teague m r.deterministic phaseretrieval:a green’s function solution[j].josa,1983,73(11):1434-1441.)和傅里叶叠层显微成像(fourier ptychographic microscopy,fpm)([3]zheng g,horstmeyer r,yang c.wide-field,high-resolution fourier ptychographic microscopy[j].naturephotonics,2013,7(9):739-745.)等。
3、tie是一种简单有效的定量相位显微成像技术,可以基于现成的明场光学显微镜通过在多个轴向平面上采集强度图像堆栈信息来获得光强轴向微分,从而定量地计算出相位信息。tie相位结果分辨率的提高通常需要使用高数值孔径的物镜和高像素分辨率的相机,然而tie可实现的成像分辨率始终受到非相干衍射极限的限制,而且换用高数值孔径物镜会引起视场的缩小,导致tie相位结果的空间带宽积从根本上受到光学系统的限制,带来了图像分辨率和视场之间的折衷。而fpm是一种新颖的基于频域拼接的定量相位显微成像技术,它能够突破常规物镜的衍射极限,有效缓解分辨率与视场的权衡,并实现大视场、高分辨率、高通量的相位成像。然而,fpm也存在固有的局限性:它的基本策略是以大量的数据测量换取高系统吞吐量,这一数据依赖性导致了耗时的数据采集和严重的存储负担问题。此外,fpm需要繁复的光学设置或照明方案,以及它迭代重构优化的算法也限制了相位重构的效率。
4、传统qpi方法的系统通量受成像系统空间带宽积的约束,且常依赖于昂贵的光学元件、复杂的光路或照明调控设计,并往往需要通过改变照明角度或z轴扫描等方式采集大量数据,并进行繁琐缓慢的迭代计算以提高成像效果和相位重构质量。因此,如何在明场显微镜下实现数据需求量低、成本低、通量高的定量相位显微成像,且无需额外的装置或光学设计,成为了计算显微成像技术对无标记样品观察中的一个技术难题。
技术实现思路
1、本发明的目的在于提出了一种基于深度学习实现单帧强度图像超分辨率的定量相位显微成像方法。
2、实现本发明目的的技术解决方案为:一种基于深度学习实现单帧强度图像超分辨率的定量相位显微成像方法,包括如下步骤:
3、步骤1:利用一个配备电动可调镜头及电动位移台的明场显微成像系统,采集样品的高分辨率离焦强度图像,高分辨率离焦强度图像包括1幅正向离焦强度图像iz-p及1幅反向离焦强度图像iz-n。随后均匀化2幅高分辨率离焦强度图像的背景亮度;
4、步骤2:计算均匀背景亮度后的高分辨率强度图像的光强轴向微分,并求解光强传输方程(transport ofintensity equation,tie),得到其对应的高分辨率定量相位图像;
5、步骤3:对均匀背景亮度后的每幅高分辨率正向离焦强度图像进行像素合并,并添加高斯噪声,得到高分辨率离焦强度图像对应的低分辨率强度图像;
6、步骤4:构建深度神经网络模型;
7、步骤5:利用逐一配对的低分辨率强度图像和高分辨率定量相位图像,构建训练数据集,所述训练数据集包括输入数据集和真值数据集。
8、步骤6:利用构建的训练数据集训练构建的深度神经网络模型;
9、步骤7:利用训练完成的深度神经网络模型实现对待测样本的定量相位显微成像。
10、优选地,所用明场显微成像系统由卤素光源、滤光片、待测样品、明场显微镜、电动可调镜头模组和ccd相机组成。卤素光源透过滤光片对待测样品照明,并使用明场显微镜对待测样品进行显微成像。电动可调镜头模块在200毫秒内改变两次焦距,每次改变焦距时,相机均以亚秒级的速度拍摄高分辨率强度图像,以此采集2幅不同焦距的高分辨率强度图像iz-p及iz-n。电动可调镜头模块与相机的同步是由软件以及标准usb电缆控制实现的;
11、优选地,对采集的高分辨率正向离焦强度图像iz-p、反向离焦强度图像iz-n进行背景亮度均匀化,背景亮度均匀化算法为:
12、
13、式中,cij为校正背景亮度的强度图像的第i行、第j列像素点的灰度值,iij为原始强度图像的第i行、第j列像素点的灰度值,为所有强度图像的平均灰度值,为原始强度图像的平均灰度值。对每一幅强度图像进行以上处理,可使三幅强度图像的背景亮度均匀,从而避免采集过程中曝光时间差异、样品光吸收率差异等因素导致的背景亮度不一致对相位恢复结果和网络训练产生的负面影响。
14、优选地,利用数值差分估计求得高分辨率强度图像iz-p及iz-n的一阶轴向微分
15、
16、式中dz为正向离焦图像iz-p与反向离焦图像iz-n在z轴方向的间距。
17、利用求得的一阶轴向微分进一步求解tie方程:
18、
19、求得高分辨率定量相位图像φ:
20、
21、式中k=2π/λ为波数,λ为波长,为梯度算子,为逆拉普拉斯运算符,·表示点积。
22、优选地,对高分辨率强度图像进行p倍像素合并,并添加高斯噪声,以模拟低分辨率成像结果。p倍像素合并可以用下式表示:
23、
24、式中,i'为p倍像素合并后的低分辨率强度图像,i为原始强度图像。随后,向图像添加高斯噪声,以模拟实际成像的点扩散效应。
25、优选地,搭建一个用于单帧超分辨率端到端定量相位显微成像的深度卷积神经网络如下所述:网络输入首先通过一个上采样模块,实现p倍上采样,随后进入编码器分支,编码器分支由四个相同的下采样模块组成,每个模块包括一个池化层和两个卷积层。经过编码器分支后,网络输入完成特征提取。随后,网络提取的特征进入用于特征重建的解码器分支,解码器分支由四个相同的上采样模块组成,每个模块包括一个上采样卷积层和两个卷积层。同时,使用跳跃连接将编码器分支每一阶段提取的特征连接到解码器分支的相应特征层。在整个深度神经网络中,每个卷积层都伴随着一个批量正则化和一个线性整流单元。
26、优选地,p倍上采样模块被放置在编码器分支和解码器分支前,将强度图像的分辨率预先提升p倍,达到目标定量相位图像的分辨率。
27、优选地,构建网络训练所需数据集的具体方法为:
28、步骤5.1.对步骤3所得的低分辨率强度图像和高分辨率定量相位图像进行水平旋转,得到水平旋转的低分辨率强度图像和高分辨率定量相位图像;
29、步骤5.2.对水平旋转后的低分辨率强度图像和高分辨率定量相位图像进行镜像翻转,得到水平旋转和镜像翻转的低分辨率强度图像和高分辨率定量相位图像;
30、步骤5.3.对经过水平旋转和镜像翻转后所得的低分辨率强度图像和高分辨率定量相位图像进行分割,分别分割为相同区域的子区域图像,低分辨率强度图像的子区域图像分辨率为(α,α),高分辨率定量相位图像的子区域图像分辨率为(pα,pα)。低分辨率强度图像子区域图像之间的间隔为α/2像素,即子区域图像之间有50%的重叠。对应地,高分辨率定量相位图像子区域图像之间的间隔为pα/2像素,即子区域图像之间有50%的重叠。由此,得到低分辨率强度图像子区域图像和高分辨率定量相位子区域图像对,随机将其划分为训练集和验证集,且训练集包含的图像对数量远大于验证集。
31、优选地,为用所构建的数据集训练所构建的深度神经网络的具体方法为:
32、step 1.在将步骤5构建的输入数据和真值数据送入网络训练之前,需要进行数据预处理,使原始数据适配于神经网络,包括向量化和归一化。将数据格式转换为float32数据,将输入图像的灰度值除以255,使先前0~255范围内的灰度值转换为0~1范围内。此外,所有的网络输入和目标都需要转换成与pytorch兼容的格式。
33、step 2.将预处理后的输入低分辨率强度图像子区域集和对应的真值高分辨率相位图像子区域集输入深度神经网络并训练。利用均方根误差(mean square error,mse)作为损失函数,计算真值与深度神经网络输出值之间差异,结合反向传播算法,重复循环迭代,采用adam优化器,优化深度神经网络的内部参数,直到损失函数收敛至最小值,且无过拟合现象,代表模型训练完成。
34、优选地,利用训练完成的深度神经网络实现对待测样本的超分辨率定量相位显微成像的具体方法为:
35、在与训练集所用强度图像相同或近似的照明条件和离焦距离下,利用与采集训练集强度图像所用的相同光学显微成像系统,或放大倍率和数值孔径相等或相近的光学显微成像系统,采集与训练集相同或相似的生物样本的低像素分辨率强度图像,将此强度图像直接输入深度神经网络,网络输出高像素分辨率的定量相位图像。将真值图像与网络输出定量相位图像进行比较,其比较结果用于评价网络的准确性。比较指标使用ssim指标。
36、本发明与现有技术相比,其显著优点为:
37、本发明只需要一幅低像素分辨率强度图像作为输入,即可实现快速、高精度、的定量相位显微成像,并将像素分辨率成倍提高;本发明将相位恢复技术与深度学习技术相结合,克服了视场与分辨率权衡、空间带宽积受限、像素分辨率低、依赖复杂昂贵光学系统等限制,可实现对透明生物样本的高精度、高分辨率的定量相位成像。
38、本发明的其他特征和优点将在随后的说明书中阐述,并且,部分的从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
39、下面结合附图对本发明作进一步详细描述。
1.一种基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,步骤如下:
2.根据权利要求1所述的基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,所述明场显微成像系统包括卤素光源、滤光片、明场显微镜、电动可调镜头模组和ccd相机,卤素光源透过滤光片对待测样品照明,并使用明场显微镜对待测样品进行显微成像,电动可调镜头模块在设定时长改变两次焦距,每次改变焦距时,ccd相机拍摄高分辨率强度图像,以此采集2幅不同焦距的正向离焦强度图像iz-p及反向离焦强度图像iz-n。
3.根据权利要求1所述的基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,步骤1中对采集的高分辨率正向离焦强度图像、反向离焦强度图像进行背景亮度均匀化,背景亮度均匀化算法为:
4.根据权利要求1所述的基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,步骤2中利用数值差分估计求得高分辨率强度图像的一阶轴向微分
5.根据权利要求1所述的基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,步骤3对高分辨率强度图像进行p倍像素合并,并添加高斯噪声,以模拟低分辨率成像结果,p倍像素合并的具体表达式为:
6.根据权利要求1所述的基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,步骤4中构建的深度神经网络模型对图像的处理过程为:
7.根据权利要求1所述的基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,步骤5构建训练数据集的具体方法为:
8.根据权利要求1所述的基于深度学习的单帧超分辨率端到端定量相位显微成像方法,其特征在于,步骤6利用构建的训练数据集训练构建的深度神经网络模型: