下一代数字视频编码标准HEVC (High Efficiency Video Coding)的目标是在相同视频图像质量的前提下与H.264/AVC的高清档相比,视频码率减少50%。然而,HEVC在提升编码性能的同时也显著增加了编码复杂度,使得编码时间大幅增加,这与高清视频实时编码的需求相差较大。在混合编码框架下,由于帧间预测部分的复杂度占总体编码的50%以上,因而对帧间预测编码进行加速可以有效地降低整个编码器的时间开销。本文对HEVC编码复杂度以及各项编码工具的编码增益进行了分析比较,以得到在HEVC中编码复杂度最高和对编码性能贡献最大的模块,即帧间编码单元(Coding Unit, CU)递归划分率失真优化过程。本文通过对帧间编码流程进行详细的分析研究,提出了一种能够快速定位CU深度从而提前结束CU递归划分的判定方法,即基于跳过模式的CU深度快速选择算法。实验结果表明,在几乎不损失编码性能的同时,本方法大幅减少了编码时间。本文同时提出了一种新的帧间编码框架,该框架引入了运动矢量约束条件分析和加权的高级运动矢量预测。主要包括对当前编码块周围的已编码块的运动矢量进行运动矢量约束化分析；对运动矢量满足约束条件的一致性区域的编码块直接采用融合／跳过模式编码；对处于运动矢量不满足约束条件的复杂区域的编码块则采用加权的高级运动矢量预测方法进行帧间运动补偿预测编码。本方法通过对运动矢量约束分析,对帧间运动补偿预测流程优化,以及针对复杂场景进行的加权高级运动矢量预测,在不引入额外编码信息的条件下,既降低了编码复杂度节省了编码时间,又提高了帧间预测的精确度和编码性能从而降低了视频码率。