signed

QiShunwang

“诚信为本、客户至上”

超分辨率图像重建

2021/3/21 10:55:38   来源:
    <link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/ck_htmledit_views-b5506197d8.css">
            <div id="content_views" class="htmledit_views">
                <p style="line-height:28px; margin-top:0px; margin-bottom:10px; padding-top:0px; padding-bottom:0px; color:rgb(76,76,76); font-family:'Hiragino Sans GB W3','Hiragino Sans GB',Arial,Helvetica,simsun,u5b8bu4f53; font-size:16px"> 超分辨率图像重建(Super-resolution Image Reconstruction)</p> 

    要讨论超分辨率图像重建,首先要弄清楚什么叫超分辨率重建,为什么要超分辨率重建。我希望能把事情说得比较简单一些。

    为了搞明白什么叫超分辨率,先来弄清楚什么叫分辨率。分辨率其实有很多种啦,什么光谱分辨率啊,辐射分辨率啊,时间分辨率啊,空间分辨率等等。其实说白了,分辨率就是对细节分辨能力的一种测度。可能有的人会认为,图像分辨率就是图片尺寸的大小。但我想说,No, 不是这样的。其实大家都知道,图片的尺寸可大可小(对图片进行放大,缩小嘛)。因此,我个人认为,所谓分辨率,是指图像展示细节的多少。比如说,对于同一个场景来说,一张照片里能数得清地上有几根草,而另一个图片中数不清了,那么不管图片谁大谁小,应该说,前者的分辨率要高一些。如果站在频域的角度上来看,我认为,分辨率高的图片总是比分辨率低的图片有更宽的频域范围。

    那么一张图像分辨率的高低受到哪些因素的影响呢?

    原因有很多。光学系统的像差、大气扰动、运动、散焦和系统噪声,它们会造成图像的模糊和变形。按照Fourier光学的观点,光学成像系统是一个低通滤波器,由于受到光学衍射的影响,其传递函数在由衍射极限分辨率所决定的某个截止频率以上值均为零。再加上其它的加性噪声。

    图像的超分辨率问题是一个病态(ill-posed)的逆问题(Inverse Problem),它没有一个固定的解。因此很多先贤提出了自己的很多想法来实现图像的超分辨率重建。在软件算法上,总体分为两种。一种是多帧图像重建。也就是采用同一场景的不同图像(前提是图像之间要有亚像素移动)来实现。另外一种呢,是采用单帧图像来实现。

    对于多帧的超分辨率重建,比较好理解,其实就是从不同图片中提取不同的细节来拼凑成一幅高分辨率的图像。这种方法好是好,可是我到哪儿去给你弄那么多同一场景的图片来呢?而另外一种就比较好,单帧的超分辨率重建。只需要一张图片,就可以重建出高分辨率的图片来。可是也有问题,我总觉得这有点无中生有,高频细节已经被“咔嚓”掉了,怎么复原啊。这就好像人被截肢了,怎么让它再长出来啊。有人说,那可以装个假肢嘛!是的,既然原配的没有了,那也就只能找个假肢凑合了。那么高频细节从何而来呢?当然有很多种方法了,什么最大后验概率啊,假定先验知识啊,等等。但我对有一种方法最感兴趣。就是所谓的“通过学习的方法”。我可以通过学习别的图片长啥样来决定自己长啥样嘛。假肢也是模仿人类的真肢嘛。

    OK,就这么简简单单地把超分辨率重建的概念说了一下。

下面从一个比较专业的角度,谈一下超分辨率重建的优点、应用以及发展。

    就图像分辨率的提高而言,可以有硬件和软件两种方式。在硬件方面,可以通过减小单个传感器的尺寸来实现。但这种方式会成倍地提高价格。而用软件的方法来实现超分辨率重建是基本上不需要任何成本的。我想,这就是其最大的优点吧。

    而其应用是相当地广泛啦:比如说下述几个应用便很广泛:

    1、广泛应用的电容层析成像技术(ECT)中,由于电容传感器具有“软场”特性且受为电容测量噪声等因素影响,其图像失真严重,利用SR技术可有效提高图像重建精度;

    2、随着高清晰度电视的发展,利用超分辨率技术将大量DTV信号转化为HDTV接收机相匹配的信号显得极为重要;

    3、在医学成像系统中,可利用SR重建技术对病变目标进行精细检测;

    4、在安全监控系统中,当有异常情况发生,可对监控录像进行SR重建,从而为时间的处理提供重要线索;

    5、在处理军事与气象遥感图像时,在不改变探测系统的前提下,通过SR重建可实现高于系统分辨率的图像观测。

    超分辨率重建技术的发展:

早期的工作主要集中在频率域进行,但随着更一般的退化模型的考虑,当前的研究工作几乎都集中在空间域进行。

频率域方法实际上是在频域内解决图像内插问题,其观察模型基于傅立叶变换的移位特性,具有理论简单、运算复杂度低、容易实现并行处理、具有直观的去变形机制等优点。但这类方法基于的理论前提过于理想化,不能有效地应用于多数场合,只能局限于全局平移运动和线性空间不变降质模型,包含空域先验知识的能力有限,所以频域方法目前不再成为研究的主流。

而空间域方法则认为LR图像中的一个像素是由HR图像的若干离散像元加权混合而成,它将复杂的运动模型与相应的插值、迭代及滤波重采样放在一起进行处理,涉及到全局和局部运动、光学模糊、帧内运动模糊、空间可变点扩散函数、非理想采样及其它一些内容,主要包括非均匀间隔样本内插法、迭代反向投影法、集合论(如凸集投影:POCS)方法、统计论(如最大后验概率:MAP)方法、混合MAP/POCS方法、正则化方法以及自适应滤波方法等。

在空域方法中,研究较多的是POCS方法和MAP方法。POCS方法的优点是可以方便地加入先验信息,可以很好地保持高分辨率图像上的边缘和细节;缺点是解不唯一、解依赖于初始估计、收敛慢、运算量大和收敛稳定性不高等。为了提高POCS方法的收敛稳定性,可以采用松弛投影算子,但松弛投影算子不利于保持图像的边缘和细节。MAP方法的优点是在解中可以直接加入先验约束,能确保解的存在和唯一,降噪能力强、收敛稳定性高等;缺点是收敛慢和运算量大。另外,MAP方法的边缘保持能力不如POCS方法,由这类方法获得的高分辨率图像上的细节容易被平滑掉。

       SR重建是一个病态问题,它存在着多个解,因此,能否有效地利用已知的信息和约束条件是实现重建的关键,尽管目前已经提出了很多重建算法,但这些算法仍然存在着较大的缺陷和不足。另外,在很多文献中,很多必要的参数往往留给了使用者来决定,如正则化参数的选取等,因此基于盲SR重建的算法也是未来研究的热点。在算法上,进一步提高对解空间进行约束的机会、提高算法的稳健型和精确性,减小计算量、加快运算的收敛速度、适用于不同图像的要求是未来研究的重点。

现在,可以说是进入超分辨重建的研究阶段,虽然前面的路还很遥远,遇到的问题还远不止如今的难度,但是坚持总会出好果,坚持、坚持!