高效视频编码标准(HEVC)是由ITU-T视频专家组和ISO/IEC运动图像专家组共同组成的联合视频小组制定的。HEVC采用了许多新技术,然而HEVC依然沿用H.264所采用的混合编码框架,利用帧间和帧内预测编码消除时间域和空间域的相关性、变换编码对残差进行变换编码以消除空间相关性,熵编码以消除统计上的冗余度。作为视频最终的接收者,人类视觉系统(HVS)由于自身的一些特性存在着感知冗余。为了量化这种感知冗余,研究者做了大量的工作。其中被广泛接受的是恰可察失真(JND)模型。JND模型通过一个阑值量化表现视觉感知冗余,低于这个阈值的改变,人眼无法察觉。将该模型应用于视频编码中,由于人眼对低于阈值的高频部分不敏感,因此可以不进行编码,从而进一步降低码流。本文首先提出了一种改进的时空恰可察失真(ST-JND)模型。该模型包括空域JND模型和时域JND模型,其中空域JND模型包括空间对比敏感函数效应(CSF)建模、亮度掩蔽效应建模和纹理掩盖效应建模。本文根据背景亮度和DCT域亮度自适应阈值的关系对亮度掩蔽效应中亮度自适应因子进行准确化从而得到更加准确的亮度掩蔽效应模型,同时利用Canny算子进行边缘检测并引入平均边缘权重系数对图像进行分类从而得到更加准确的纹理掩盖效应模型。本文将改进的ST-JND模型应用于HEVC中,并用结构相似度(SSIM)代替PSNR来评价视频主观质量。实验结果表明,改进的ST-JND模型能够较大的提高视频编码效率,平均约为18.7%。为了提高编码速率,针对全零DCT系数块,为避免对该种残差块进行变换量化以及熵编码以减少编码器的运算量,本文最后提出了一种全零DCT系数块预先判别算法。该算法从DCT定义、量化和能量守恒出发,并且在分析现有判别方法的优缺点的基础上得到。最后将该算法应用到HEVC中,实验结果表明,该算法可以检测出较多的全零块,平均约40%的变换块可以省去进行变换量化从而大幅度减少计算量,同时对视频内容的复杂程度不敏感,图像质量下降极少平均约为0.0003。同时为了进一步提高变换部分运算速度,本文采用基于GPU的CUDA平台上的并行算法,并进行了大量实验并对实验结果进行分析。