移动通信发展至今,已渗透到人类社会的方方面面。移动社交网络、移动多媒体等业务的兴起对数据传输速率的提升、应用类型的多样化提出更高要求。为满足客户日益增长的移动通信需求,大规模多输入多输出（MIMO,Multiple Input Multiple Output）技术应运而生。通过在基站端配置大量天线,大规模MIMO可以充分挖掘空间自由度,增强空间分集与复用技术,显著提升频谱效率。大规模MIMO技术虽已证明其有效性并初步投入商用,但在进一步大规模部署过程中仍存在成本过高的问题,主要体现在射频链路造价过高、密集布站成本过高、信道估计开销过大、以及估计算法耗时过长等方面。本文将针对上述问题,从硬件成本、资源开销、算法复杂度等多个角度寻找节约成本的方法,研究低成本的大规模MIMO无线传输理论与关键技术。首先,研究基于离散傅里叶变换（DFT,Discrete Fourier Transform）的混合波束成形多用户传输系统,从硬件方面降低成本,解决射频链路造价过高问题。为设计其模拟波束选择方案,首先固定波束,分析此时上下行链路分别采用迫零和最大比合并接收机、以及迫零和最大比发送预编码器下的遍历可达速率近似值。基于上述理论结果,设计最大化遍历可达速率的波束选择方法,重点提出一种两步波束选择算法,能够在较短时间内获得近似最优的波束选择结果。仿真结果证明了遍历可达速率的紧性以及所提出的两步选择方案的有效性。其次,研究大规模智能超表面（LIS,Large Intelligent Surface）辅助型大规模MIMO系统,从硬件方面降低成本,解决密集布站成本过高问题。为提升LIS辅助型大规模MIMO系统遍历频谱效率,首先研究基站端发送机制,在推导不同预编码方案的遍历可达速率上界后,发现同时利用原始链路与辅助链路的预编码方案具有最优性。随后研究LIS相移机制,提出基于统计信道状态信息的最优相移设计方案,并考虑硬件限制,进一步推导出LIS移相器量化比特数与遍历频谱效率损失量的关系式。仿真结果证明了2比特量化即可保证遍历频谱效率损失不超过1 bit/s/Hz。随后,面向频分双工（FDD,Frequency Division Duplex）多天线系统,研究一种上行辅助的下行信道重建方法,从资源消耗方面降低成本,解决信道估计开销过大问题。基于FDD上下行信道空间互易性,利用路径时延和角度的频率无关性,通过上行探测过程估计这两种频率无关性参数。在证明了下行估计路径复衰落因子的必要性后,通过下行训练将其估计并反馈至基站,此时导频及反馈开销均较低。为同时估计时延和角度,引入并增强了牛顿正交匹配追踪（NOMP,Newtonized Orthogonal Matching Pursuit）算法,并理论证明了增强型NOMP算法的准确性。软件仿真和硬件实测结果表明,所提的上行辅助的下行信道重建方法可以获得近似于真实信道的重建结果。接下来,研究上行辅助的下行信道重建方法在FDD三维（3D,3-Dimensional）多用户大规模MIMO系统中的应用。针对3D多用户场景,提出一种高效的下行训练方案,从资源消耗方面降低成本,解决信道估计开销过大问题。首先提出e NOMP算法,可以同时估计时延、下倾角、和方位角这三种频率无关性参数。进一步提出了一种低开销的下行训练方案,基于码本,化用户专用导频为小区公共导频,保证仅用少量导频即可将复衰落因子的估计误差控制在可接受范围内,完成多用户下行信道的低开销重建。仿真结果证明了e NOMP算法的估计准确性,并且证实了利用重建信道以及利用完美CSI来设计下行链路多用户传输方案,可以得到近似相同的多用户系统可达速率。之后,面向FDD多用户大规模MIMO系统,提出一种下行时变信道跟踪方法,从资源消耗和算法复杂度两个方面降低成本,同时解决信道估计开销过大和接收机算法耗时过长这两种问题。上行链路以较低的算法复杂度跟踪每个用户的频率无关性参数,利用前序时刻参数跟踪结果,仅依托稀疏的上行探测信号即可高效地跟踪已有路径,找出消失路径,并检测新生路径。下行链路以较低的导频开销估计所有用户的复衰落因子,采用K均值聚类算法进行导频设计,使导频数目可预设。仿真结果证实了所提跟踪方法的有效性及鲁棒性,并建议频繁跟踪信道,以维持较高的多用户频谱效率。最后,面向FDD超大规模MIMO系统,提出一种模型驱动的基于深度学习的下行信道重建方案,进一步从算法复杂度方面降低成本,解决信道估计算法耗时过长问题。考虑到超大规模MIMO系统空间非平稳特性,同时为加速信道重建过程,引入一种高效的目标检测神经网络,实现角度、时延的快速检测以及空间非平稳的识别。为提升估计精度,配合使用一种低复杂度的基于算法的优化模块,将网络所得参数估计值进一步精调。仿真结果表明,该方案可以快速准确地重建非平稳信道,回退到空间平稳场景后,可在百分之一的时间开销内达到和增强型NOMP算法相同的重建准确性。