随着移动通信向着高速宽带发展,在传输速度的要求下,频率资源变得越来越宝贵。未来的通信系统必须充分利用有限的频谱资源,频带有效性和功率有效性的矛盾日益突出,而编码调制结合方案正是克服这一矛盾的主要方法。近年来,随着新的纠错编码、MIMO空时调制以及迭代译码方式的出现,联合编码调制方案的设计正成为普遍关注的热点。LDPC码是目前所有信道编码方案中最逼近Shannon限的好码,并已经应用在DVB-T、WiMax、UWB和LTE等无线通信系统中。多进制LDPC码具有比二进制LDPC码更好的性能,因此,研究多进制LDPC码的编码和译码,并与高阶调制进行联合编码调制设计的研究称为一项非常有意义的工作。除了编码调制技术以外,分集技术是又一种可以获得系统性能增益的技术。与已经广泛研究的时间、频率和空间分集不同,信号空间分集(signal space diversity,SSD)是一种功率和带宽有效的分集技术,不需要额外的资源。SSD获得性能改善是以增加接收机的计算复杂度为代价的,这是阻碍它广泛应用的主要因素。虽然,SSD已经在一些编码调制方案中的到了应用,比如BICM以及BICM-ID。但是基于SSD的高维映射空间的内在要求,将SSD应用于多进制的编码调制系统是编码调制方案的一个研究方向。本文的研究内容和主要结论如下:对多元LDPC码的译码算法进行了详细的分析和总结,并考虑到以后硬件实现的要求,对其中低复杂度的译码算法予以改进,带来了一定的性能补偿。从最简单的多元LDPC码和高阶调制结合出发,提出一种新的基于多元LDPC码的置信传播联合编码调制(QBPCM-ID)方案,并从内外迭代次数、交织器两个方面,通过仿真的方法,分析了它们分别对系统性能的影响。接着,将SSD引入基于多元LDPC码的置信传播联合编码调制(QBPCM-ID)方案,通过系统仿真结果证明,系统性能有了进一步的提升。应用级联编码的思想,提出了一种编码SSD,即在保持系统总码率不变的前提下,将一部分的LDPC码的编码码率转移到SSD调制端,编码SSD作为系统的内码。根据不同总码率下的仿真结果,可以发现,在总码率一致的情况下,新的级联编码调制方案性能更优。