随着无线通信的发展，移动用户的激增以及用户对数据率，业务类型等的更高要求，传统的干扰抑制算法已经不能满足LTE-A所提出的系统系能。为了满足LTE-A标准所提出的系统性能要求，相邻小区间采用频率复用因子为1的方案来进行覆盖，因而在LTE-A标准下，多小区同频干扰已成为制约通信容量和质量提升的瓶颈。为了提升小区边缘用户体验以及提高系统容量，研究高效的小区间干扰抑制算法有着极其深远的理论和实践意义。本文主要针对LTE-A下行小区间干扰协调以及混合网络场景下的干扰协调进行研究。首先，对LTE-A系统中的干扰进行分类并计算出干扰大小，通过理论推导以及软件仿真衡量出小区间干扰对于信道估计参数的影响，以此说明干扰对于整个系统性能的影响。接下来，本文研究了3GPP所提出的3种干扰抑制方案，即干扰删除、干扰随机化以及小区间干扰协调，其中本文重点关注LTE-A中下行小区间干扰协调技术。在小区频谱效率、小区吞吐量、小区边缘用户吞吐量以及小区边缘用户掉话率等多个方面比较了传统的FFR算法的优缺点。接下来，本文分析比较了FFR算法中小区用户划分的多种方案的优缺点，在此基础上提出了基于SINR的划分方案，以寻找使系统性能最佳的门限值。然后进一步将干扰问题转换成一个决定因素为边缘带宽比例、边缘带宽复用因子、以及小区用户门限选择的凸优化问题。在以上研究基础上，针对非对称负载场景下提出了一种基于负载可感知的小区间干扰协调优化算法。所提出的算法由两个核心算法构成：小区边缘频带复用算法和小区中心频带补偿算法。仿真结果表明，其在多项通信性能指标上优于具有现有的传统算法。最后，针对研究混合网络场景，提出一种结合动态频率分配与功率控制的Femtocell与宏小区之间的干扰协调算法，通过仿真验证其在小区吞吐量，掉话率等方面优于传统算法。