由于无线信道的开放性,攻击者很容易窃听通信内容、实施干扰,进而影响通信的安全。目前,主要通过在通信实体之间共享密钥、进行加密通信来提高通信系统的安全性,而密钥生成协议作为加密的基础,直接决定了整个系统安全性的强弱。相比较于传统单输入输出信道,多输入输出(MIMO)信道因受多径衰落影响,能提供更大的信道变化随机性和密钥容量,因而在密钥生成方面更有优势,故有关MIMO信道的密钥生成协议方面的研究获得了广泛关注。然而,目前关于MIMO密钥生成的研究主要基于幅值、相位这两类信道参数。这两类算法的密钥容量和密钥生成速率都不理想。不同于上述两类算法,本文提出了采用基于MIMO信道估计的方法来进行密钥生成。通过理论推导和仿真验证证明,相比于基于单一信道参数,采用信道估计的方式能获得更大的密钥容量和密钥生成速率。首先,本文通过理论分析证实了信道估计密钥生成的可行性和优越性。根据Wire-Tap信道模型建立了MIMO窃听信道模型,描述了基于MIMO信道估计密钥生成协议的协议流程,并从信道测量、信道量化与密钥生成、密钥协商纠错三个方面进行详细阐述,对基于信道估计的密钥生成协议的密钥生成率和密钥容量进行了理论分析,证实了基于信道估计密钥生成的可行性与优越性。其次,本文通过使用压缩感知技术来设计信道估计算法。在密钥生成过程中,信道估计算法的设计是影响生成密钥性能的重要因素。实际的MIMO系统中,信道一般呈现出稀疏特性。本文针对稀疏性这一普遍的信道特征,在MIMO窃听模型的基础上,结合压缩感知技术,提出了利用信道稀疏性使用少量导频完成密钥生成的MIMO稀疏信道估计密钥生成算法。该方法可以有效的降低运算复杂度并降低噪声干扰。本文以密钥不匹配率、密钥生成速率和密钥信息熵三方面作为密钥生成算法的性能标准,通过系统仿真,得出结论：本文提出的MIMO稀疏信道密钥生成算法,在密钥一致率、密钥生成速率和密钥信息熵三个方面,性能均得到了提升。因此,MIMO稀疏信道密钥生成算法具有更好的稳定性、鲁棒性和安全性。最后,本文采用分布式信源编码来解决密钥协商的问题。在密钥协商过程中,本文采用分布式信源编码模型解决MIMO信道估计密钥协商,提出了基于压缩感知的密钥协商算法,其中包括利用初始密钥差值的稀疏特性生成协商信息的方法,以及利用压缩感知恢复算法进行信息恢复和协商纠错的方法。仿真结果表明,基于压缩感知的密钥协商算法通过观测矩阵对初始密钥进行压缩,去除了协商信息与初始密钥的相关性,利用很少的协商信息生成较长的协商密钥,具有更高的协商概率。