随着智能终端的普及和各种新的无线应用出现,移动通信数据需求正呈现指数级增长。面对日益增长的无线数据需求,提升系统容量仍然是5G系统最主要的目标。异构网络技术通过在传统的宏基站网络中部署大量低功率节点拉近与用户端的距离,实现热点覆盖,缓解爆发式增长的移动数据需求。但是异构网络也面临着许多挑战,为了提高频谱效率,异构网络通常采用同频部署,小区间的干扰严重制约着系统性能,同时由于解决负载均衡而采取的措施,又进一步加剧了对分流用户的干扰,因此需要采取有效的干扰协调方法。本文针对边缘用户受到宏基站的强烈干扰这一问题,对异构网络中的干扰协调问题进行了研究,提出了联合空时域的干扰协调方法来提升系统性能。异构网络的同频部署会导致微基站边缘用户受到宏基站的强烈干扰,这成为进一步提升系统吞吐量的瓶颈。目前,在异构网络中广泛采取简单易实现的空白子帧(Almost Blank Subframes,ABS)技术,虽然可以有效提高边缘用户的服务质量,但是ABS方案会浪费宏基站的时隙资源。在多天线异构网络中可以采取更加高效的干扰协调方案。为此本文提出了一种联合时域和协作波束成型的干扰协调方案,将系统的时隙资源分为普通子帧(Normal Subframes,NS)和干扰置零子帧(Interference Nulling Subframes,INS),在NS上基站调度自己的中心用户,在INS上微基站调度边缘用户,宏基站设计迫零预编码矢量利用一部分自由度来消除对微基站边缘用户的干扰剩余自由度来服务自己用户。以比例公平为效用函数,本文建立了联合优化INS比例和用户归属的优化问题。由于所形成的问题是一个NP-hard问题,难以直接获取其最优解,因此本文提出一种高效交替优化算法分别求解INS比例和用户归属。仿真结果表明所提算法可以有效提高系统的平均速率和系统效用。在协作波束成型的干扰协调方案中,用户仅从单一基站接收信号,为了提高边缘用户的接收信号质量,本文进一步提出了联合时域和部分联合传输的干扰协调方法。相比于协作波束成型,联合传输方案中多个基站同时向用户发送数据信息。联合传输需要共享基站用户的信道状态信息和用户的数据信息,这对基站的回程链路和计算能力有更高的要求。考虑到微基站的计算能力,本文所提的联合时域和部分联合传输的干扰协调方案中只考虑宏基站与微基站之间的协作,不考虑微基站之间的联合传输。将基站的时隙资源分为NS和联合传输子帧(Joint Transmission Subframes,JTS),其中在NS上基站调度自己的中心用户,JTS上宏基站和微基站同时向边缘用户发送数据。因此,形成了联合优化子帧比例和联合传输预编码矢量来最大化加权速率和的问题。所形成的问题关于两个变量不是联合凸的,难以直接获取最优解,因此,本文将原问题分解为两个子问题,然后使用交替优化的思想分别求解。仿真结果表明,相比于已有算法,所提算法能够明显提升边缘用户和系统的吞吐量。