当终端由于尺寸、成本、功率或复杂度限制而不能安装多个天线时，无线通信系统就无法采用多输入多输出技术来提供空间分集。这时，协作通信是一种极具吸引力的替代技术，它可以有效地获取空间分集，从而对抗衰落，提高通信性能。然而，在协作通信中，协作转发会导致系统频谱效率下降。本论文就集中于研究无线网络中具有高频谱效率的协作通信技术。　　 论文的主要研究成果总结如下：　　 首先，提出了一种满速率满分集两用户放大转发（AF）协作分集方案。每个用户将其接收到的信息经过干扰相消处理后，叠加在自己的信息上进行发送，因而具有与直接传输方案相同的传输速率。还对功率分配方案进行了研究，并利用所提出功率分配方案的特点，提出了一种简化译码算法，其复杂度可与LTW-AF方案（Laneman，Tse和Wornell提出的一种AF协作方案）的译码复杂度相比拟，只需要进行单符号的最大似然译码。该方案可以获得满分集增益，且性能明显优于LTW-AF方案。　　 其次，提出了两种高频谱效率的选择译码转发（SDF）协作分集方案。一种是基于转发叠加符号的三用户协作分集方案，每个用户有两个协作伙伴，并将所接收到的两个伙伴的符号进行叠加，然后再转发。另一种是基于信号空间分集技术的三用户协作分集方案，每个用户有两个协作伙伴，并对接收到的伙伴符号以一定角度进行相位旋转，然后同时转发一个伙伴符号的实部及另一个伙伴符号的虚部，并且推导出了最佳的旋转角度。对两种方案的误比特率性能及分集性能均进行了分析，同时还考虑了符号映射对系统误比特率的影响，并分别对采用8.PSK调制的这两种方案各自设计出一种新的具有更好性能的符号映射。无论是相比于两用户LTW-SDF方案（Laneman，Tse和Wornell提出的一种SDF协作方案），还是三用户LTW-SDF方案，这两种新提出的方案都具有更好的性能。　　 再次，对具有与直接传输方案相同传输速率的双路径中继通信方案进行研究，并提出了改进的信号发送和接收检测方案。在双路径中继通信方案中，由于中继节点在接收源信息时，会受到另一个中继节点所发送信号的干扰，这种中继间信道干扰严重损坏双路径中继通信系统的性能。针对基于AF协作的双路径中继通信方案，提出在目的节点先进行干扰相消，消去以前接收到的信号及噪声，然后进行最大后验概率译码和迭代软译码，以提高系统性能。针对基于译码转发（DF）协作的双路径中继通信方案，提出让中继节点互相交换部分信道状态信息（CSI），并利用这些信息改进信号发射策略，让中继节点和源节点均对所发送的符号先进行相位旋转，然后发送，从而提高中继节点的抗干扰能力，并推导出了最佳的旋转角度，而且，中继节点在互相交换部分CSI时，所需的额外操作负担较小。　　 最后，研究了伙伴选择问题，通过伙伴选择来提高多个用户协作时系统的频谱效率。证明了机会中继方案在LTW-AF协作通信系统中是近似最佳的伙伴选择方案，但在非LTW-AF协作通信系统中并非是最佳的。进而，将机会中继方案与所提出的满速率满分集AF协作方式相结合，并进行改进，以最小化中断概率为准则，推导出最佳的伙伴评估策略，从而设计出基于多个用户的满速率AF协作分集方案。改进方案具有更好的性能，而且，所需的额外操作负担较小。