近年来，智能无线通信设备的普及和无线多媒体业务的发展对无线通信系统提出了更高的要求。然而，受限于有限的频谱资源和提高能量效率的要求，传统的基站(Base Station，BS)和用户设备(User Equipment，UE)之间的点对点通信已经无法满足要求。面对这种情况，协作通信（Cooperative Communication）因其可以通过利用系统内不同设备之间以及不同系统之间的相互协作而实现高效的通信，近来得到了广泛的研究，也被认为是下一代移动通信系统中的核心技术之一。　　协作通信通过将系统空闲资源再分配以及融合不同系统的优势，能有效提高系统的频谱效率（Spectral Efficiency，SE）、能量效率（Energy Efficiency，EE），满足用户对不同业务的需求。但与此同时，不合理的协作通信，反而会降低系统性能，影响本来的正常通信。可以看出，如何合理有效利用系统闲置资源，对频谱、功率进行分配以及合理选择搭配不同设备进行协作，是高效利用协作通信的重要前提。针对这些问题，本文针对如何提高协作通信的系统性能，从用户配对，功率控制和系统间交互信令设计的角度出发，对D2D Mobile Relay系统和LTE-WLAN(Wireless Local Area Network)双系统为模型，进行了深入而富有创新性的研究。具体的研究内容包括以下四个部分:(1)D2D-Relay系统中SE、EE性能和用户配对方案之间的关系;(2)从经济学市场配对的角度出发，提出通信系统中用户配对稳定度的概念，并研究其和系统性能之间的关系;(3)结合功率控制和用户配对，解决了最大化D2D-Relay系统吞吐量以及EE的最优化问题;(4)研究了LTE(Long Term Evolution)和Wi-Fi系统如何协作以实现更高资源利用率，并研究了LTE在免授权频段上和WLAN系统的公平共存问题，提出了提高公平性的解决方案。　　第一部分研究了在现有蜂窝网络系统中，如何在上行通信引入D2D-Relay并高效工作的问题。在BS拥有所有UE的信道信息的假设条件下，所有的UE根据其到基站信道的信道优良程度被划分为传输UE（transmitting UE，t-UE）和中继UE(r-UE)。其中t-UE为上行信道条件较差的一部分UE，而r-UE与之相反，为上行条件较好的一部分UE。通过合理的配对方式，让r-UE和t-UE之间建立起D2D一对一通信，并且让r-UE为其配对的t-UE提供中继服务功能。考虑到SE和EE随UE发射功率的变化差异，引用了一种全新的包含SE和EE的度量，即EE-SE Tradeoff(EST)来综合考虑上述两个性能指标。在EST中，通过引入一个偏好参数来控制SE和EE在最终系统性能中的比重。　　在以EST作为优化目标的基础上，结合经典的配对算法（比如贪心算法、基于用户优先级算法和随机配对算法）以及功率控制进行分析和数值仿真，得出以下结论。(1)引入D2D-Relay机制可以提高系统SE，而由于额外引入了r-UE的发射功率，系统EE的提升将受到限制;(2)针对不同的应用场景，需要合理设置EST的偏好指标以及采用合适的配对算法，才能有效提高系统性能。　　第二部分研究了在UE传输速率和EE有下限的限定条件下，如何通过功率控制和用户配对，实现最佳的系统吞吐量和系统EE。文中首先对如何最大化系统吞吐量的问题进行了数学公式化的描述。随后，本文通过对图论中的经典配对算法Kuhn-Munkres算法进行改进，使其适应本文中的研究场景，最终提出一种填补型改进KM算法(Padding-Assisted KM Algorithm，PAKMA)，以解决吞吐量的最优化问题。接下来，本文将最大化系统EE的问题进行了数学化描述。通过结合Dinkelbach算法和之前所提的PAKMA配对算法，解决了如何选择用户进行D2D配对以及如何设置发射功率，以实现系统最大EE的问题。　　第三部分从经济学市场配对的稳定程度出发，研究了D2D-Relay协作通信系统中的用户配对稳定度。首先，针对稳定度概念，本文从本源上进行了解释并阐述了配对稳定程度在经济学和通信理论中的相似性。接下来，在D2D-Relay系统中对稳定配对和不稳定配对进行了具体的定义并在此基础上提出了影响配对稳定程度的不稳定因子。通过将不稳定因子进行归一化处理，本文接下来对稳定度进行了数值定义，并通过分析和数值仿真，研究了其和系统性能之间的内在联系。　　第四部分研究了目前两大主流无线通信系统，即The Third Generation Partnership Project(3GPP)Long Term Evolution(LTE)和Institute of ElecMcal and Electronic Engineers(IEEE)802.11Wireless Fidelity(Wi-Fi)系统之间的协作通信。文章首先研究了LTE和WLAN的融合系统中，上行LTE资源可能出现缺调度或者过调度的问题，并提出了通过将LTE上行缓存汇报(Buffer Status Report)格式进行修改，设计算法对上行资源进行再计算，实现了资源的合理分配。随后，本章针对工作在免授权频段是的LTE系统，即enhanced Licensed-Assisted-Access(eLAA)，与WLAN下具体的Wi-Fi系统在免授权频段上的公平问题进行了研究。由于eLAA在免授权频段上进行多信道占用时所采用的信道监听机制，要远比Wi-Fi所采用的Channel Bonding机制灵活，导致eLAA能够占用更多的信道，从而影响到了两种系统在免授权频段上的公平共存。本文提出通过系统间的协作，eLAA系统对每一条尝试采用的信道根据其在Wi-Fi系统中的重要性进行权重分配，并选取权重较小的信道进行监听和传输。理论分析和数值仿真证明了所提方案不仅可以有效提高两类系统在信道占用上的公平性，同时还可以进一步提高免授权频段的有效利用率。　　综上所述，本文研究了协作通信中的资源分配研究。针对SE、EE、吞吐量、配对稳定程度等性能指标，本文设计和验证了一系列的解决算法，可以为实际协作通信提供理论基础，并具有一定的标准化价值。