随着高清与超高清视频的不断发展与普及,海量视频数据的存储和传输已经成为目前业界的巨大挑战。为了进一步降低视频流媒体的传输压力,VP9和HEVC等新一代视频编码标准随着发展应运而生。由于VP9格式开源且免费授权,其在流媒体行业中受到了更多的支持与推广。相较于其上一代编码标准VP8,由于引入了大量新技术,VP9能够提升接近一倍的编码性能。然而其编码复杂度也随着编码性能的改善而大幅提高,限制了VP9视频编码标准在实时通信场景下的应用。因此,如果在编码性能不变的前提下,减少编码复杂度成为目前实时音视频行业的一个迫切待解决的问题。因此,本文针对VP9编码器中耗费大量编码复杂度的超级块划分过程进行优化,基于不同的改进方向提出了两种快速算法。针对超级块划分时编码复杂度过高的问题,本文分析了VP9中超级块划分具有的特征,并建立了一个大型的数据集,其中包含了大量超级块划分的结果。通过对数据集进行统计分析,本文将超级块的四叉树划分过程抽象建模成一个三层的三分类模型,通过搭建分层的深度残差网络SHRN预测超级块各个深度的划分结构。编码器使用预测的超级块划分结构直接进行划分,可以跳过大量不必要的搜索过程,大大减少编码复杂度。实验结果表明,本文所提快速算法在编码性能基本不变的前提下平均降低帧内编码模式下超过60%的编码时间。针对现有快速算法没有考虑人类视觉系统的特性,本文提出基于视觉感知特性的超级块快速算法。本文首先对人类视觉系统的特性进行了系统的分析与总结,然后提出了基于亮度适应性、对比度掩蔽效应和视觉模式复杂度等视觉特性的多维JND感知阈值模型。根据该JND模型,可以计算出与超级块划分具有一致性的感知变化因子,用以对超级块的划分深度进行预处理,实现超级块划分的提前终止,减少了大量的编码复杂度。进一步地,通过将划分过程中的率失真优化过程替换为基于SHRN的快速算法,能够进一步减少编码复杂度。实验结果表明,本文所提基于视觉感知特性的超级块快速算法能够在编码性能基本保持不变的前提下减少超过70%的编码时间。