IP组播技术是一种有效的多目标传输机制，具有广阔的应用前景。但是目前的组播协议缺乏安全机制满足组播应用的安全性要求。IP组播是一个开放的系统，每一台主机都可以通过发送：IGMP(因特网组管理协议)报文加入到一个或多个组播组中，接收或发送组播信息。IGMP协议不提供访问控制机制。因此，对于有安全要求的组播应用，对组播报文加密传输是实现安全组播的重要方法。在已有工作基础上，论文进一步完善了组播加密算法的基本思想，给出组播加密算法的数学描述。基于国际数据加密算法(IDEA)设计出对称组播加密算法。基于RSA非对称加密算法进一步完善了非对称组播加密算法。根据给出的组播加密算法设计了不同的组播密钥管理方案，并应用于安全组播视频会议系统中。 首先，分析了一些典型的组播密钥管理方案：集中式组播密钥管理方案(GKMP (Group Key Management Protocol)、LKH(Local Key Hierarchy)和OFT(One—Way Function Trees))、分组式组播密钥管理方案(可扩展的密钥管理方案、Iolus)及分布式组播密钥管理方案(Clique和TGDH(Tree-based Group Diffie-Hellman))等。 然后，描述了组播加密算法的基本思想方法。基于国际数据加密算法(IDEA)和RSA非对称加密算法的设计了对称组播加密算法和非对称组播加密算法。讨论了对称和非对称组播加密算法在满足安全组播需求和密钥更新过程中的良好性能。 基于组播加密算法，设计了简单集中式、扩展集中式和简单分布式组播密钥管理方案；基于组播加密算法设计了一个分布式业务加密密钥分发方案。从安全组播系统中各实体需要的密钥存储量、业务加密密钥更新过程中需要的计算量和传递业务加密密钥更新消息所需的信息量等方面，对给出的组播密钥管理方案和业务加密密钥分发方案与已有的组播密钥管理方案进行对比。 最后，基于视频会议系统的安全性要求，利用基于组播加密算法的简单集中式组播密钥管理方案设计实现了一个视频会议系统的安全组播子系统。通过实验和测试分析，进一步验证了组播加密算法和相应组播密钥管理方案的可行性以及在满足安全组播需求和密钥更新过程中的良好性能。