本文专注于无线中继通信编码与预编码研究探索和设计,是无线中继网络通信研究的重要组成部分。成功的编码和协作策略设计,可以获得更高的协作分集增益,编码增益和带宽利用效率,从而使得无线中继网络通信获得更高的通信速率和质量。与中继分布式编码在接收端均衡信道的做法相反,预编码方案在发送端预均衡信道。因此,成功的预编码设计,可以降低接收端信号处理复杂度,并同时获得更高的协作分集增益,提高中继广播系统的可靠性。在绪论中,本文研究了了无线中继通信的技术背景,并对前人的相关研究进展进行了讨论和比较。在分布式编码的研究中,我们首先建立了中继协作通信的数学模型,并在此基础上详细的讨论了一种基于分布式空时分组码的中继编码方案：TCOSTS。在TCOSTS方案中,两个终端节点同时向对方发送数据,从而使得传输速率加倍。通过利用分圆准正交空时分组码,TCOSTS获得满速率,满分集增益和较低的译码复杂度。另外,通过设计扩充中继节点的方案,TCOSTS可以获得相应更高的分集增益。由于利用正交频分复用(OFDM)方式发送信号,TCOSTS可以容忍中继节点相对时延,并且中继节点的信号处理复杂度较低。在预编码研究中,我们首先研究了LR的基础原理,并讨论了LR在多天线通信场景中的应用。在此基础上,我们提出了一种基于LR的MIMO-中继预编码方案。利用两级信道矩阵的约减基,我们设计了在发送端和中继端的联合预编码信号处理流程。在此基础上,我们提出了发送端平移改进方案,和中继端取模改进方案,从而进一步提高了发送端和中继端的功率效率。另外,我们还研究了将传统的MMSE-SIC算法应用于预编码的发送端来提高性能。仿真结果表明,中继预编码方案TCOSTS取得了满分集增益,实现全双工通信,并且可以扩展中继节点个数。一系列基于LR的中继预编码方案相对于传统预编码可以获得更高的分集增益,从而获得更高的通信质量。