本项目针对夜视影像特点（低照度、运动遮挡、大噪声、色彩信息不丰富等）和人眼视觉特性，研究并建立了复杂夜视场景下的多约束彩色夜视影像超分辨率重建方法。该方法在空间分辨率、色彩、纹理信息等各种细节上提高了夜视影像的质量，最终提高了夜视影像的可视判读能力。 在开展、完成项目的过程中，项目组按期提交了研究进展报告和结题报告。在项目的资助下，项目组已在高水平的国内外学术期刊/会议上发表论文13篇（其中SCI/EI 检索论文7篇）。以项目为依托，培养研究生11名，培养的研究生（已毕业）围绕项目研究已完成相关学位论文6篇。通过项目研究，目前已经建立了独立、稳定的科研团队。 本研究对于夜视影像中弱特征信息的处理，如弱小目标分割、特征提取、微弱信息识别与解译等各种研究与应用具有重要意义。

目前序列帧超分辨率重建主要针对理想成像环境中较高质量的影像，大多仅注重空间分辨率的提高，当应用于夜视影像（具有低照度、运动遮挡、大噪声、色彩信息不丰富等特点）时，效果往往不佳。. 本项目针对夜视影像特点和人眼视觉特性，将提高影像解译和可视判读能力作为最终目标，研究复杂夜视场景下的多约束夜视影像超分辨率重建方法。首先，为获取准确的运动信息，建立并改进低照度下高精度的TV-L1光流亚像素运动估计算法。其次，构建保持影像边缘特性的多尺度双边滤波算法来抑制重建中的噪声放大并调整影像的高动态范围。然后，研究基于日光影像统计特性和简化颜色空间的夜视场景色彩重构算法，改善色彩信息。最后，将上述多约束融入到POCS 重建的整体框架中，相互协同，迭代重建出空间分辨率和色彩分辨力都极大提高的影像。. 本研究对夜视影像中弱小信息的分割、提取、识别与解译等各种研究与应用都具有十分重要的意义。

超分辨率(Super-Resolution)即通过硬件或软件的方法提高原有图像的分辨率，通过一系列低分辨率的图像来得到一幅高分辨率的图像过程就是超分辨率重建。超分辨率重建的核心思想就是用时间带宽(获取同一场景的多帧图像序列)换取空间分辨率,实现时间分辨率向空间分辨率的转换。

超分辨率图像重建(Super-Resolution Image Reconstruction)

在大量的电子图像应用领域，人们经常期望得到高分辨率（简称HR）图像。高分辨率意味着图像中的像素密度高，能够提供更多的细节，而这些细节在许多实际应用中不可或缺。例如，高分辨率医疗图像对于医生做出正确的诊断是非常有帮助的；使用高分辨率卫星图像就很容易从相似物中区别相似的对象；如果能够提供高分辨的图像，计算机视觉中的模式识别的性能就会大大提高。自从上世纪七十年代以来，电荷耦合器件(CCD)、CMOS图像传感器已被广泛用来捕获数字图像。尽管对于大多数的图像应用来说这些传感器是合适的，但是当前的分辨率水平和消费价格不能满足今后的需求。例如，人们希望得到一个便宜的高分辨率数码相机/便携式摄像机，或者期望其价格逐渐下降；科学家通常需要一个非常高的接近35毫米模拟胶片的分辨率水平，这样在放大一个图像的时候就不会有可见的瑕疵。因此，寻找一种增强当前分辨率水平的方法是非常必须的。

增加空间分辨率最直接的解决方法就是通过传感器制造技术减少像素尺寸（例如增加每单元面积的像素数量）。然而，随着像素尺寸的减少，光通量也随之减少，它所产生的散粒噪声使得图像质量严重恶化。不受散粒噪声的影响而减少像素的尺寸有一个极限，对于0.35微米的CMOS处理器，像素的理想极限尺寸大约是40平方微米。当前的图像传感器技术大多能达到这个水平。

另外一个增加空间分辨率的方法是增加芯片的尺寸，从而增加图像的容量。因为很难提高大容量的偶合转换率，因此这种方法一般不认为是有效的。在许多高分辨率图像的商业应用领域，高精度光学和图像传感器的高价格也是一个必须考虑的重要因素。因此，有必要采用一种新的方法来增加空间分辨率，从而克服传感器和光学制造技术的限制。

一种很有前途的方法就是采用信号处理的方法从多个可观察到的低分辨率（简称LR）图像得到高分辨率图像。最近这样的一种分辨率增强技术正成为最热的研究领域之一，在文献中人们把它叫超分辨率（简称SR或者HR）图像复原或者简单地叫做分辨率增强。本文中我们用“超分辨率图像复原”这个术语来指分辨率增强的信号处理方法，因为在克服低分辨率图像系统固有的分辨率限制方面，“超分率”术语中的“超”字代表了一个非常好的技术特性。信号处理方法最大的好处就是它的成本低，同时现存的低分辨率图像系统仍能使用。在许多实际应用中，特别是在医疗图像、卫星图像和视频等领域，同样场景的多帧低分辨率图像很容易得到的情况下，SR图像复原被证明是非常有用的。一种应用就是用便宜的LR数码相机/便携式摄像机复原高质量的数字图像以便打印/停格使用，通常对于一个便携式摄像机，很有可能连续显示放大帧；另外一种非常重要的应用是在监控、法院、科学、医疗和卫星图像应用中缩放感兴趣区域（简称ROI），例如，在监控和法院中，数字摄像机（简称DVR）已经普遍取代了闭路电视（简称CCTV），就很有必要放大场景中的目标如汽车牌照或者疑犯的脸部 。在诸如CT和核磁共振（简称MRI）等医疗应用中，分辨率质量有限的而获取多幅图像有是可能的情况下，SR技术是非常有用的；在遥感和地球资源卫星（简称LANDSAT）一类卫星图像应用中，在同一地区的多幅图像可提供的情况下，可以考虑使用SR技术增强目标的分辨率；另外一种非常迫切而现实的应用是把一般的NTSC格式低清电视信号转换为高清电视信号（简称HDTV）而不失真地在HDTV上播放。

我们如何从多幅LR图像中得到HR图像？在基于SR的空间分辨率增强技术中，其基本前提是通过同一场景可以获取多幅LR细节图像。在SR中，典型地认为LR图像代表了同一场景的不同侧面，也就是说LR图像是基于亚像素精度的平移亚采样。如果仅仅是整数单位的像素平移，那么每幅图像中都包含了相同的信息，这样就不能为HR图像的复原提供新的信息。如果每幅LR图像彼此之间都是不同的亚像素平移，那么它们彼此之间就不会相互包含，在这种情况下，每一幅LR图像都会为HR图像的复原提供一些不同的信息。为了得到同一场景的不同侧面，必须通过一帧接一帧的多场景或者视频序列的相关的场景运动。我们可以通过一台照相机的多次拍摄或者在不同地点的多台照相机获取多个场景，例如在轨道卫星一类可控制的图像应用中，这种场景运动是能够实现的；对于局部对象移动或者震荡一类的不可控制的图像应用也是同样能实现的。如果这些场景运动是已知的或者是在亚像素精度范围了可估计的，同时如果我们能够合成这些HR图像，那么SR图像复原是可以实现的.

与SR技术相关的一个课题是图像修复，这是一个在图像应用中被大量处理的领域，图像修复的目标是恢复一个被模糊或者噪声破坏的图像，但是它不改变图像的尺寸。事实上图像修复和SR复原在理论是完全相关的，SR复原可以看作是第二代图像修复课题。

与SR技术相关的另一个课题是图像插值，即增加单幅图像的尺寸。尽管这个领域已经被广泛地研究，即使一些基本的功能已经建立，从一幅近似的LR图像放大图像的质量仍然是有限的，这是因为对单幅图像插值不能恢复在LR采样过程中损失的高频部分。因此图像插值方法不能被认作是SR技术。为了在这方面有更大的改进，下一步就需要应用基于同一场景的相关的额外数据。基于同一场景的不同的观察信息的融合就构成了基于场景的SR复原。

由于影像理解的极端复杂性，从大比例尺航空影像和高分辨率遥感影像自动重建建筑物的逼真三维模型距离实用化还有很大的差距，特别是三维几何重建和墙面纹理映射的大部分工作仍需由手工完成，这已成为制约高精度三维城市模型快速获取的瓶颈问题。基于影像的三维城市自动建模一直是摄影测量和计算机视觉领域的研究热点和学术前沿。本申请立足于不规则三角形网络（TIN）的自适应动态更新和多层次细节控制等特点，研究TIN约束下的建筑物三维自动重建方法，包括：TIN约束下的立体影像特征点密集匹配与传播方法和自动识别建筑物表面几何面片并模型化的方法。根据匹配得到的建筑物密集特征点数据建立3D TIN，并融合2D 图形与属性信息实现建筑物三维表面模型的自动重建。本项目的研究为基于影像的建筑物三维表面模型自动重建提供了一种新的方法，也可以用于对激光扫描(LIDAR)获得的数字表面模型数据进行自动处理。 2100433B