无线通信的不断发展使得超高流量密度、超高连接密度，以及超高移动性的数据通信逐渐变为可能，但由于无线通信固有的广播特性，多用户大数据流量下的隐私保护和传输安全也面临着更大的挑战。此外，无线终端的智能化和计算能力的不断增强，使得传统上层加密的手段面临着被“暴力破解”的危险，无线网络中的通信安全问题越发严峻。物理层安全基于信息论的基础，旨在通过利用无线信道自身的特性，实现保密信息的安全传输，该技术也逐渐被视为解决无线通信传输安全的关键技术之一，受到了学术界和工业界的广泛关注和研究。
　　协作中继技术作为一项重要无线通信手段也广泛被应用于物理层安全中。然而在许多无线应用场景中，参与协作的中继相比于合法用户具有较低的安全等级或信息接入权限，即中继是非可信的。如何充分利用中继提升网络连通性，同时避免其对保密信息的窃听，是本论文的主要研究问题。现有多用户非可信中继网络物理层安全研究有以下几方面的局限性：第一，现有工作主要集中在“单源-多目的节点”或“多源-单目的节点”的场景中，然而在多用户对(如，D2D或P2P)场景下，如何充分利用多用户分集提升网络安全性能有待被进一步研究。第二，现有工作主要集中在正交传输场景中，当考虑非正交多址接入(Non-Orthogonal Multiple Access, NOMA)时，每次传输需要避免多个信号被中继窃听，其传输的安全性更难以保证。此外，在采用协作干扰时需确保干扰信号对多个接入用户均不产生较大影响。因此，在NOMA非可信中继网络中设计安全传输方案则很有必要。第三，在许多研究中都通过协作干扰来保证传输安全，但这也带来了额外的能量开销。此外，充当干扰者的节点相比于基站通常并不受到持续的供能，这些都会制约协作干扰的性能。
　　针对上述现有研究的局限性，本论文在非可信中继网络的多种典型应用场景中进行了物理层安全传输方案的研究。充分利用协作干扰技术和多用户分集来提升系统的安全性。具体的研究内容与创新点可总结如下：
　　1.多用户非可信中继网络的安全传输
　　在多“源节点-目的节点”用户对的场景中，为了提升该场景下的系统安全性能，提出了3种基于目的节点协作干扰的用户对选择方案：1.机会式用户选择方案(OUS)：2.贪婪式用户选择方案(GUS)；3.智能辅助式用户选择方案(GAUS)。针对OUS和GUS两种用户选择方案深入地分析了其物理层安全性能，得到了遍历保密安全容量，保密中断概率的闭合表达式，并通过大信噪比渐进进一步分析了不同方案的保密分集增益。通过理论与仿真分析证明，相比于在非可信中继场景中引入协作分集来提升系统安全性能，采用多用户分集是一种更为有效的方式。此外，通过对多用户对场景的网络拓扑结构进行分析，将非可信中继的物理层安全研究进一步拓展到多天线源节点和多目的节点的场景，提出了最优联合天线选择和用户选择的安全传输方案，并通过理论与仿真对系统的中断性能进行了分析，由高信噪比下的渐进分析可知所提方案的保密分集阶数为min(NS , M2 )。
　　2.NOMA非可信中继网络的安全传输
　　在一个单远端用户和多个近端用户的功率域NOMA非可信中继网络中，首先，设计了远端用户协作干扰的安全传输方案，并在此基础上提出了一种近端用户接收信噪比最大化的用户选择策略。通过相应的理论和分析证明，所提出的选择策略可以同时实现近端用户和远端用户保密安全速率的最大化。其次，在独立同分布的Rayleigh衰落信道下，得到了所设计方案下远端用户和近端用户的遍历保密安全速率的理论下界，以及遍历保密安全速率的渐进表达形式。最后，仿真与理论分析表明，在高信噪比情况下，近端用户的遍历保密安全速率会随着用户数的增大而不断增大，而远端用户的遍历保密安全速率会收敛于一个常数。
　　3.基于能量回收的多播非可信中继网络的安全传输
　　首先，提出了一种基于能量回收技术的目的节点协作干扰传输方案，实现系统的非零保密安全速率传输。其次，提出了3种干扰者选择方案来进一步提升系统的保密安全性能。最后，针对所提出的干扰最大化的干扰者选择策略，根据系统能量到达率推导获得稳态状态下可用干扰者数目的概率分布，并利用该分布求得了该方案下的遍历保密容量的下界和近似表达式。通过理论和仿真分析可以得出所设计系统的遍历保密安全速率主要受到多播特性和能量到达率两方面因素的制约：1.系统可进行协作干扰的概率会随着用户数或能量到达率的增加而不断增加。2.在有协作干扰参与的条件下，多播特性使得保密安全速率会随着用户数的增多而降低。