本文主要研究基于矩阵正则化表示的红外目标增强、图像修复与补全、高光谱图像解混等问题。所使用的矩阵正则化表示模型主要有：矩阵低秩稀疏分解模型、矩阵调和稀疏分解模型、矩阵联合稀疏回归模型等。本文的主要研究内容及贡献如下：　　首先，根据红外目标检测中的红外图像通常具有缓慢变化背景这一特点，提出利用矩阵的低秩稀疏分解模型，将红外图像分解为背景分量和目标分量，进而获得目标增强图像，并将其用于红外目标检测。实验结果表明，基于矩阵低秩稀疏分解获得的红外目标分量，其信杂比显著高于原始红外图像的信杂比，也高于一些传统目标增强算法所获得的增强图像的信杂比。　　其次，尽管基于全变分的小波域图像修复方法已成为小波域图像修复领域的一种重要方法，但由于需要在迭代过程中反复进行小波变换和小波逆变换，该类方法通常比较耗时。为此，提出基于低秩矩阵恢复的小波域图像修复方法，该方法通过最小化小波系数矩阵的秩，直接在小波域修复受损的小波系数，其迭代过程中不需要反复进行小波变换，因而速度非常快。实验结果表明，该算法运行速度快、图像修复效果良好。基于低秩矩阵恢复的小波域图像修复方法为小波域图像快速修复提供了一种新的选择。　　再次，尽管基于矩阵低秩稀疏分解的红外目标增强方法性能良好，但由于其涉及核范数最小化，在每次迭代中，均需进行矩阵奇异值分解，因而对较大的图像，该算法较为耗时，难以满足实时性要求；而且，该算法隐含的低秩假设对一般的图像都不成立。为此，提出一种矩阵调和稀疏分解模型及基于增广拉格朗日交替方向的求解算法，用于将红外图像快速分解为平滑分量和稀疏分量，其分解所得的稀疏分量可直接应用于红外目标检测。实验结果表明，所提算法计算复杂度低，收敛速度快，对包含红外小目标的红外图像的分解效果良好。将所提算法应用于图像补全与修复，其实验效果同样良好。本部分内容的主要贡献在于，提出了一种新的图像分解模型，并为其设计了一种快速求解算法，进而通过实验，展示了该模型及算法在多个方面的潜在应用价值。　　另外，在高光谱图像解混方面，针对现有基于约束稀疏回归的高光谱图像解混算法难以保证丰度矩阵非零行的稀疏性问题，提出了一种新的基于重加权ld,1(d>0)范数联合稀疏回归的高光谱解混模型，并基于变量分裂和交替方向乘子法(Alternating Direction Method of Multipliers, ADMM)，给出了两种快速迭代重加权算法。区别于其他迭代权更新算法，所提算法中的改进算法无需额外参数来保证加权矩阵的可逆性。实验结果表明，算法的解混精度及其所估计的丰度矩阵的一致稀疏度均高于现有同类算法，而且收敛速度快。　　最后，考虑到高光谱图像相邻像元的丰度系数的局部相似性，在基于加权l1,1范数稀疏回归的基础上，继续对丰度矩阵增加全变分空间正则化约束，并由此提出一种新的基于加权l1,1范数及全变分空间正则化的高光谱稀疏解混方法。算法中，我们使用卷积矩阵和矩阵乘法而不是卷积核和二维离散卷积运算，来计算全变分，这使得我们的算法的推导变得简明。实验结果表明，算法解混效果较好，但其计算复杂度较高。　　论文最后对本文主要工作进行了总结，并对下一步需要开展的研究内容进行了展望。