随着信息技术的飞速发展，以组播方式传输H.264压缩视频已经成为信息交互的重要模式。由于视频传输的质量决定了用户的观赏体验，视频传输质量控制一直以来都是提升视频传输产品竞争力的关键环节。当前，视频传输业务逐渐呈现出集群性高和敏感性强的特征，在新形势下组播网络中的H.264视频传输质量控制还存在诸多问题。因特网并不提供服务质量保障，经典的传输质量控制方案常通过在服务器进行前向纠错（FEC）编码和在客户机进行RTCP反馈来应对网络传输错误，但由于在H.264视频的大规模组播业务中传输网络更加复杂，传输数据也更加敏感，这种方案在实时、可靠和考虑用户主观感受的传输要求下往往表现不佳。本文围绕传输质量控制方案中的关键技术进行研究，重点关注了对组播传输架构的优化和对前向纠错编码的改进，使其更适合于H.264压缩视频的组播传输方式。首先，本文提出一种基于RTCP网络的传输架构。通过引入汇聚节点、“网络近邻”探测机制和OSPF-like算法将传输系统优化为网络拓扑结构从而使其能够满足大规模组播任务中快速响应的需求；依靠心跳检测及其补救机制降低了关键节点的脆弱性从而提升了系统的可靠性；借助二次前向纠错编码机制使系统可以对子网进行针对性传输保护从而解决了组播子网异构的问题。其次，本文基于H.264特征和用户体验提出一种增强型前向纠错编码方法（S-FEC）。一方面，利用H.264压缩数据的特征提取其解码重要性和内容复杂性作为S-FEC的参考信息，另一方面，利用IQX假设和RTCP反馈信息对用户体验进行评估作为S-FEC的参考信息。结合两者用于增强型前向纠错编码的参数决策使H.264视频的传输保护更加准确也更符合人类的视觉体验。最后，本文结合RTCP网络和S-FEC设计了完整的视频传输质量控制系统，并在Linux开发环境下对其进行了实现。本文基于视频编解码芯片MG3500对上述视频传输质量控制系统进行了仿真验证，实验证明系统能够有效应对H.264视频组播时传输规模庞大、传输数据敏感、网络状态恶化和缺乏考虑用户体验等诸多问题，在提升视频传输质量的同时满足直播业务的实时性要求。