Massive MIMO作为传统MIMO技术的延伸,能够极大地提高系统的频谱效率,是未来无线通信的一个重要研究方向。Massive MIMO需要在基站采用大规模的天线阵列来服务有限的终端用户,这使得系统实现的硬件复杂度非常高。因此为了提高Massive MIMO系统的实用性,为将来系统的实际搭建与应用提供可行的降低复杂度的方案,本文主要研究降低Massive MIMO系统实现的硬件复杂度和成本的方法。主要研究工作如下:1.建立了Massive MIMO系统模型,分析了导频污染的产生原因和抑制算法。仿真结果表明,使用MMSE信道估计算法和基于最小化导频污染的预编码算法可以抑制导频污染的影响;2.分析了发射天线选择(TAS)对多用户MIMO系统性能的影响,设计了一种适用于Massive MIMO系统的低复杂度次优的TAS算法,研究了当约束用户速率时的最小发射天线数问题。仿真结果表明,设计的TAS算法不仅计算复杂度低,而且性能也近似最优;3.讨论了TAS算法给系统能量效率带来的影响,提出了两种分别在随机TAS算法和所设计的TAS算法下求能量效率最大值和相应的发射天线数问题的可行算法。仿真结果表明,TAS算法可以提高系统的能量效率;4.针对一种适用于Massive MIMO系统的新型单RF链路接收机,分析了其在有无延迟误差两种情况下的接收端SINR表达式,提出了一种延迟误差校准补偿算法。仿真结果表明,新型接收机在典型的无线通信系统中能够提供和常规接收机基本一致的性能。