如何将信息快速准确地从一端传送到另一端是通信研究的本质问题,通信的过程中信道的质量从根本上决定了通信系统的性能,因此需要根据给定的信道模型对通信系统进行设计。然而在实际的通信场景特别是在移动通信场景中,真实的信道环境往往与设计时的参考模型有较大的差异;另一方面,在移动通信场景下由于多普勒效应造成的信道时变性给信道估计与信道均衡带来了很大的困难。考虑到在衰落信道环境中,多输入多输出(MIMO,Multiple-Input MultipleOutput)技术可以利用分集增益提高信息传输的可靠性,本文针对通信系统的信道自适应问题,尝试利用机器学习的方法实现一种基于深度神经网络的MIMO通信系统。机器学习是一门致力于研究如何不通过显式编程而是利用计算手段以及利用经验来改善系统自身性能的计算机学科,当前的统计机器学习是从早期的符号机器学习发展而来并在各个领域得到了广泛的应用。近十年来,深度学习作为机器学习的一个分支得到了充分的关注并取得了革命性的突破,所谓的深度学习指的是“让计算机通过层次化的结构来构建简单的知识架构以完成对复杂知识的学习”。在通信领域中,利用强化学习实现行为决策的研究呈日渐上升的趋势并且已经逐渐得到应用,而将机器学习应用在物理层问题上的研究则刚刚兴起。结合机器学习方法的优势与MIMO系统的特点,本文的工作和创新点主要有以下两点:一、针对传统通信系统设计的过程中单独考虑信源编码、信道编码、信道估计与信道均衡的弊端,提出了一种基于自编码器(AE,Autoencoder)的MIMO通信系统,该系统在训练过程中将解码器输出端与编码器输入端之间的均方误差作为代价函数,结合梯度下降算法和Adam算法对神经网络的权值进行优化直到代价函数收敛。仿真实验表明,基于AE的MIMO系统采用五层深度的神经网络即可达到比传统的Alamouti系统更好的误码性能,且在高信噪比条件下相比传统系统的性能优势更明显。二、针对MIMO系统反馈信道状态信息困难、在病态信道矩阵情况下信道估计不准确以及均衡效果不理想等问题,提出了一种基于深度神经网络(DNN,Deep Neural Network)的MIMO通信系统,该系统利用接收端的均衡层实现对信道的自适应均衡。仿真实验表明,基于DNN的MIMO系统可以有效地恢复受信道衰落影响的信号,具有优于传统方案的误码性能。