ITU-T和ISO/IEC联合制定了新一代视频编码标准——高效率视频编码(High Efficiency Video Coding,HEVC)。HEVC的码率比H.264/AVC减少了50%左右,但是编码复杂度却急剧增加,严重阻碍了HEVC的应用和推广。因此,在保证编码性能的同时,降低HEVC的编码复杂度,具有重要意义。本文对HEVC帧内编码模块的预测模式选择和编码单元(Coding Unit,CU)划分两个部分进行算法改进,从而降低HEVC的编码复杂度。为了解决HEVC帧内预测模式选择复杂度高的问题,提出了一种基于结构相似度及梯度强度的预测模式快速选择算法。该算法通过结构相似度来表现预测单元(Prediction Unit,PU)的相关性,对尺寸4×4PU模式选择过程进行优化,从而跳过粗选模式过程,减少了率失真优化过程的预测模式个数。同时利用PU的梯度强度选择粗选模式过程的预测模式个数,减少了编码时间。实验表明,该算法在视频质量几乎不变的情况下,相比HM14.0算法平均减少24%的帧内编码时间。针对HEVC帧内CU划分复杂度高的问题,提出了一种基于纹理复杂度及深度预测的帧内CU快速选择算法。首先,通过计算最大编码单元(Largest Coding Unit,LCU)的纹理复杂度,提前判断LCU的划分。其次,根据相邻CU的相关性,利用相邻CU的深度信息对当前CU的深度进行预测,减少冗余深度的计算。实验表明,该算法在视频质量几乎不变的情况下,相比HM14.0算法平均减少38%的帧内编码时间。综上所述,帧内CU划分和预测模式选择改进算法都取得了较好的效果,在保证视频质量几乎不变的情况下,以较小的编码性能损失,有效地降低了HEVC帧内编码复杂度。