多输入多输出(MIMO)技术从诞生开始,就因其可以增加空间自由度,提升移动通信系统的性能增益而备受关注。然而,随着智能终端及其应用的快速发展,海量的联网终端所产生的巨大数据流量对现有的移动通信网络造成了巨大的挑战。传统MIMO技术已逐渐无法满足需求。大规模MIMO技术作为传统MIMO技术的延伸,在继承了传统MIMO技术的优点以外,还极大地提高了系统的频谱效率,显著地降低了能源消耗、硬件成本以及空口延迟等等,成为下一代无线蜂窝通讯系统的热门候选技术之一。但是,目前大规模MIMO技术的实用性较差,仍然有许多问题亟需解决。其中,随着天线数目与用户数目的增加,大规模MIMO系统进行信道估计时所需的下行训练与反馈的开销也将剧增。如何减少这些开销,是大规模MIMO传输技术走向实用首要解决的问题。联合空分复用(JSDM)下行传输方案的主要思想是利用信道的空间相关性对各小区内的用户进行分组,然后对各用户组分别进行两级的混合预编码,能够有效地减少频分双工(FDD)模式下的大规模MIMO系统在进行信道估计时的开销。其中,用户分组是实施JSDM方案的第一步,且传统JSDM方案是在单小区场景中进行的,所以本文将着重研究多小区场景中的JSDM用户分组技术与干扰协调技术。在已有的JSDM用户分组算法中,K-means分组算法因简单、有效而使用广泛,但是该算法采用随机选取初始用户组中心点,这对最终的分组结果影响很大,容易产生局部最优解。针对此缺陷,本论文提出一种改进的K-means用户分组算法,采用最大距离法选取初始中心值,并使用加权似然准则替换原算法中的欧式距离准则对用户的差异性进行度量。在经过多次迭代后,算法收敛,用户可被充分分组。但是,在多小区场景中,该改进的用户分组算法无法消除或抑制小区间干扰。所以,本文后续又提出了一种多小区下的JSDM干扰协调方案。该方案在JSDM技术的基础上,利用了信道的零空间预编码设计原理,将蜂窝网络中的每一个用户的有效信号投射到其余全部用户的信道零空间中,继而可以有效抑制多小区间干扰。通过修改已有的长期演进(LTE)系统仿真平台,对本论文所提出的改进用户分组算法及零空间干扰协调方案的性能进行了全面验证和深入分析。仿真结果表明,在大规模MIMO组网场景中,改进的JSDM分组算法能够有效地解决由传统K-means算法随机初始化导致的局部最优解问题,使得用户分组更为彻底,JSDM下行传输方案的性能提升了近20%。此外,基于JSDM方案的零空间干扰协调方法有效地抑制多小区间的干扰,从而小区边缘5%频谱效率和系统的总体吞吐率最高均能提升2.2倍左右。