伴随着社会的不断发展以及经济的不断进步，人们对交互通信的要求也不断提高，尤其在通信的数据速率、服务质量以及移动性等方面。为了实现更高的资源利用率从而提供更高服务质量，无线通信技术不断进行革新和改进。其中，在传统的MIMO技术基础上，近来提出了新的大规模MIMO技术(Massive MIMO)。　　Massive MIMO技术除具有传统MIMO优点外，通过增加大规模的天线数量逐渐平均噪声和干扰，从而增加信号干扰噪声比（SINR)。然而，随着天线数量的增加，导频污染成为Massive MIMO技术应用的挑战。已有研究表明，导频污染成为制约多小区多用户Massive MIMO系统的重要原因。在基于TDD的传输模式下，为了减少上行导频序列所占频谱资源，采用各个小区内均用同一组正交的导频序列，导致小区间基于相同导频进行信道估计时产生的导频污染现象。　　本论文基于Massive MIMO技术与小小区通信理论，针对Massive MIMO系统上下行数据传输阶段的数据干扰情况，分析了Massive MIMO传统蜂窝网络系统中信道估计和数据传输过程的干扰，提出了有效的基于时间移动导频的用户选择传输方案，通过小区分组、用户暂停、信道估计来降低导频干扰、抵抗导频干扰，从而提高系统总体性能。在干扰分析的基础上，在强干扰区域引入小小区选择并服务强干扰用户，提出用户动态服务方案来降低系统干扰，进一步提高系统性能。　　首先，在Massive MIMO系统中，本文基于时间移动导频传输模式，提出了一种小区分组与用户选择的信道估计和数据传输方案。利用时间移动导频和小区分组能够将传统的导频污染转化导频与数据间的干扰，通过优化天线配置和小区分组降低数据传输阶段的相邻干扰小区数以及干扰用户数量。基于用户空间特性分析干扰，采用一种基于用户位置及角度的用户选择暂停传输方法来减少系统干扰，并采用Kalman估计进一步抵抗残留干扰影响。仿真结果表明，本方案可以有效降低Massive MIMO的导频污染及传输干扰，提高信道估计性能以及数据传输速率。　　其次，研究了引入小小区通信的一种Massive MIMO传输方案。在前述方案中，选择部分强干扰用户暂停传输，以数据速率的损失换取系统干扰的减少和整体性能的提高。引入小小区，可以解决部分用户暂停的数据速率损失，通过性能干扰指标选择的宏小区内强干扰用户由小小区服务。通过小小区的低功率和低相关性来实现干扰降低，实现对系统用户的全服务，尤其是由于小小区的应用，强干扰用户的性能较用户选择暂停方案中有了一定的提升。仿真结果表明，MassiveMIMO系统结合小小区的优化设计，从整体上提高了数据的传输速率以及系统的性能。