在多输入多输出(MIMO)无线通信系统中,格基规约(Lattice Reduction, LR)技术能够有效地改善信道矩阵的奇异性,因而常被用来作为检测前的预处理操以有效提高检测性能。本文中,从两个方面创新性地研究LR在MIMO的应用：对于接收端而言,研究基于LRA (Lattice-Reduction-Aided)的MIMO检测软信息输出算法；对于发送端,研究LR在预编码技术中的应用。对于接收端,文中提出了一种基于排序列表的LRA检测软信息输出算法。该算法预先获得不同变换矩阵相应变换域信号的排序列表,并将其存储以供检测时查询；在每次实施基于LRA的MIMO检测获得幸存矢量时,利用信道矩阵对应的变换域信号的排序列表,可以有效地减少检测中需要计算权值的节点个数,有效地降低计算复杂度。对于发送端,本文研究如何将LR技术用于预编码矩阵的设计针对于不同的双工方式,文中分别提出了基于LR的码本预编码和非码本预编码。基于LR的码本预编码的特征在于接收端基于LR量化算法构造码本,并将其反馈给发送端以便发送端进行预编码操作。文中第四章给出了具体的两天线系统的码本构造方案,并通过大量的对比仿真说明了该预编码处理机制不仅能保证满接收分集增益,还能够避免现有基于码本的预编码处理机制中要进行多次调制编码方式选择所带来的复杂度。基于LR的非码本预编码,是在发送端对信道矩阵进行LR操作得到规约基,再根据MMSE准则和ZF准则获得预编码矩阵。仿真结果表明基于LR的非码本预编码能够有效地降低误码率。