新一代的无线通信系统中,对数据的传输速率和可靠性提出了更高的要求。采用何种方案以实现有限频谱资源上的高速可靠传输,成为当前研究的一大热点。基于低密度奇偶校验码(LDPC)的多输入多输出(MIMO)系统是其中的一种实现高速可靠传输的较好的方案。本文基于该系统,对其中的关键技术进行了研究,主要内容有：(1)由于准循环的LDPC码(QC-LDPC)具有编码复杂度低的特点,本文选择QC-LDPC码作为该系统的信道编码方案。对几种具有代数结构的QC-LDPC码的构造方法进行了研究和性能分析。(2)对MIMO系统的检测算法进行了研究,主要有球形译码算法,减格辅助算法,迫零检测算法和最小均方误差检测算法,串行干扰抵消算法等,并对它们的性能进行了分析比较。(3)针对基于LDPC编码的MIMO系统,研究了具有较好性能的球形检测和LDPC译码器的联合检测译码方案,并研究了具有较低复杂度的软输出线性MIMO检测和LDPC译码联合的译码方案,同时对这些方案进行了仿真和性能分析。仿真结果表明,这些系统能在保持较低计算复杂度的情况下保持良好的性能。