随着未来无线通信发展,人们对高速率、高质量通信的需求日益增长,而频谱资源有限是要解决的主要问题。规则LDPC码优异的纠错性能与高阶调制BICM系统高带宽效率的结合是一种能提高频谱效率的有效方案。本文首先对LDPC码的基本原理、LDPC码的分类、校验矩阵构造法以及规则LDPC码的译码方法做了系统的研究。分析和比较了LDPC码三种构造方法的优缺点,重点研究了两种LDPC的译码方法,古典算法和信度传播算法,并对其性能进行了仿真。在传统译码算法的基础上,提出一种基于校正因子的改进的译码算法,仿真验证其性能优于传统算法。然后研究了比特交织编码调制(BICM)系统的基本原理和特点。其中分别研究了交织技术的基本设计方法,星座映射方式的设计方法及解调解码相结合的原理。对于三种典型的星座映射方式:格雷(Gray)映射、集分割(SP)映射,混合(Mixed)映射,给出星座映射设计的欧式距离准则。仿真证明AWGN信道下,Gray映射方式在BICM系统中都是最优的。最后重点研究了基于规则LDPC码的BICM系统的模型及本文采用的的对数似然译码算法。首先,分析了码长,列重,交织对LDPC-BICM系统性能的影响。然后提出一种改进的基于内置交织的编码算法。本文针对16QAM调整中各个比特的保护能力进行了分析,利用16QAM星座点中比特保护能力的不同,提出了一种采用内置交织的LDPC编码方法,将信息比特与校验比特按照两两交替的方式排列,并设计了16QAM调制的LDPC-BICM系统仿真模型,对该方法进行了验证。结果证明:基于LDPC-BICM内交织编码方案性能优于随机编码方案。