大规模多入多出技术(Massive Multiple-Input Multiple-Output,M-MIMO)是未来5G无线通信的关键技术。在MIMO系统中,发送端的空时编码、接收端的信号检测都需要信道状态信息(Channel State Information,CSI),然而,在无线通信中,信号的传播环境随时间而变,并且在基站处获得的CSI因时延问题也会与实际的信道有所不同,这将使得通信质量恶化。为了克服这个问题,需要进行信道估计(Channel Estimation,CE)。CE技术已经成为无线通信中的常用技术,但是由于M-MIMO系统天线数量巨大,形成的信道数量也很大,对信道估计技术产生了挑战。近年来,压缩感知(Compressive Sensing,CS)理论的发展与应用为信道估计提供了新的途径。从空间角度来看,大规模MIMO系统的相邻信道在空间上具有较强的相关性,实际中,其无线信道的能量往往集中在有限的空间方向上,也就是说,信道在空域上是可被压缩的。从频域角度来看,当系统的子载波数远远大于信道多径数时,频域信道矩阵在快速傅里叶变换(Fast Fourier Transform,FFT)矩阵上是稀疏的,因此稀疏的信道响应就提示我们可以将压缩感知技术引入信道估计中,大大减少需要估计和传输的信道响应数据量。本文考虑大规模MIMO系统中的下行链路信道估计训练问题,其中基站配备有大型平面阵列,用户设备配备单天线。我们提出利用改进后的OMP算法来估计主信道路径的角度信息,随后可以用于数据传输模式中的下行链路波束成形,改进后的OMP信道估计算法具有门限自适应性。所提出的方法的基本思想是在CSI采集过程中利用平面阵列中可见性区域的先验知识和CS知识来细化观测矩阵(波束方向)。仿真结果表明,与经典的OMP算法相比,所提出的算法能够获得更好的性能,并且提高了频谱效率。另一方面,大规模MIMO的信道反馈问题随着MIMO信道矩阵的尺寸越来越大,变得越来越具有挑战性。为此,在研究大规模MIMO系统中信道脉冲响应(Channel Impulse Response,CIR)反馈的基础上,提出了一种基于压缩感知的分段CIR反馈方案。不像传统的直接压缩反馈方案利用感知矩阵直接压缩稀疏的CIR,本文提出的基于压缩感知的分段反馈方案能够产生比原始CIR更加稀疏的分段CIR,基站可以利用压缩感知恢复分段后的经过高度压缩的CIR。仿真结果表明,所提出的方案可大幅度降低反馈误差,并提高频谱效率。当压缩率为20%时,直接压缩方案已经失效,而所提出的方案表现却良好;当压缩率为50%时,所提出的方案能够获得高于直接压缩方案5dB的SNR增益。