D2D技术因其能与传统蜂窝网络进行结合,以缓解蜂窝系统面临的频谱资源紧张以及核心网负荷过重问题,将在未来5G通信中扮演重要角色。然而5G新兴的移动应用场景带来的接入终端的爆发式增长以及流量数据的节节攀升等变化趋势,将使用户隐私和数据安全面临更严峻挑战。因此安全问题将成为限制D2D技术应用的关键因素。目前,D2D通信安全的研究主要基于应用层加密或认证技术。但应用层加密和认证技术因其高运算负载和存在可攻破安全漏洞的缺陷,已不能满足未来移动应用的需求。而新兴的物理层安全技术凭借其理论上的完全保密性和低运算负载优势,将成为解决D2D安全问题的新突破口。鉴于此,本文针对蜂窝网络下D2D通信面临的安全威胁,结合其系统特性,基于物理层安全的主流技术,研究蜂窝网络下D2D通信的物理层安全保护方案,主要研究内容如下:(1)首先,本文对蜂窝网络下D2D通信模式的特点以及常见攻击类型进行归纳总结,并由此确立本文的物理层安全设计的思路及其在D2D通信中存在的特性问题。(2)其次,为满足D2D设备间安全需求,本文提出基于D2D设备移动特性的物理层密钥方案。其中,本文将D2D设备的速度作为随机源以生成物理层密钥并对密钥生成步骤的细节进行了重新设计。在此基础上,根据D2D场景特点引入基站进行隐私保护和运算分担以提升方案的整体性能。(3)最后,为满足参与D2D频谱复用的蜂窝用户的安全需求,提出基于距离的D2D保护对接入控制方案。该方案巧妙地将原本有害的D2D同频干扰作为有益的干扰信号,并用该信号来中断窃听链路。其中,本文首先给出了基于距离的接入控制方案及距离阈值的说明。其次,借助随机几何推导了量化后的保密吞吐量来衡量方案的性能。在此基础上采用最优化方法,对最优阈值进行了推导,并设计了基于进退法的距离阈值迭代搜索算法来减少运算复杂度。