摘要：模式选择算法是视频编码的一项关键技术,H.264/AVC、AVS等视频编码标准都采用了基于率失真优化的模式选择,与以往的视频编码标准相比,它们的编码效率有了很大的提高。但是采用该算法需要计算各候选模式下的率失真代价来选出最优模式,因此它的复杂度也急剧增加,在实际应用中带来了困难。本文将主要针对这个问题对率失真优化模式选择算法进行改进。基于此,本文进行的研究工作如下：首先,介绍了视频编码标准的发展历程以及视频编码的关键技术,阐述了率失真理论及其在视频编码中的应用,重点分析了在模式选择中的应用,并且指出用失真-量化模型来估计失真的必要性。其次,经过对失真量化模型(D-Q)的研究,我们发现DCT系数的分布模型对失真量化模型的建模有直接影响,因此本文对几种主流的DCT系数分布模型进行了仿真验证,发现基于柯西分布的DCT系数分布模型比其他模型的精确度高,然后对一些D-Q模型从精确度、复杂度和应用场合进行分析比较,在此基础上对基于柯西分布的D-Q模型进行改进,提出一种新的参数更新机制,使该模型的精确度更高,并且能够更好地用于率失真优化的模式选择。最后,通过对大量视频序列的测试,发现SKIP模式占据着很大的比例。目前,学术界已经提出了许多SKIP模式预选算法,这些算法大都基于阈值判据来对SKIP模式进行预选,但是这些阈值都不能很好地与视频内容自适应,使得它的应用受到了局限。针对这个问题,我们提出了一种阈值与内容自适应的SKIP模式预选算法,通过一个能够反应当前编码块特性的参数来自适应地调整阈值,本文中,我们使用编码宏块的SATD值来调整SAD阈值。所提算法采用了线性回归分析和离线统计建模的思路,对大量离线采集的样本数据进行分析,通过线性回归的思路对SAD和SATD建模,在线编码时,将编码宏块的SATD带入到模型中,求得用于SKIP模式预选的SAD阈值。把以上方法综合运用到AVS的编码器中,实验结果证明在性能损耗几乎为零的情况下,大大降低了模式选择算法的复杂度。