随着无线通信技术的快速发展,人们在关注通信速率的同时,也更加注重通信环境的安全性。物理层安全(Physical Layer Security)技术充分利用无线信道的自身特性,可以不依赖上层保密机制,而从通信协议的底层实现信息的安全传输,因此,可以与其他安全通信技术很好地兼容,提供更加有效的安全保障。中继传输技术作为无线通信网络的关键技术之一,具有显著提高无线通信的吞吐和扩大网络覆盖范围的特点。与此同时,全双工(FullDuplex)技术能够使通信双方在同一时间同一频段进行工作,克服了半双工技术频谱利用率低的缺点,使得频谱资源的使用更加灵活。因此,在较为复杂的物理层安全传输模型中,同时考虑全双工技术与中继技术的优势,研究全双工中继系统物理层安全传输技术具有重要的现实意义和应用价值。本文在此背景下,对全双工中继系统物理层安全传输技术进行了详细研究。主要的研究内容及贡献如下:第一,研究了全双工单中继系统物理层安全传输模型,提出了全双工混合中继干扰(Full Duplex Hybrid Relaying-and-Jamming)方案。在本方案中,引入了全双工中继技术,中继节点在转发期望信号的同时,还加入了人工噪声作为干扰信号。目的节点可以接收到来自中继节点的混合信号,并从中解码出期望信号,同时消除干扰信号,而窃听者节点无法解码出期望信号,这样降低了其窃听效果,从而达到提高安全性能的目的。最后,推导出系统的可达安全速率,并对期望信号与人工干扰信号之间进行功率分配,分析获得了最优功率分配方案。第二,针对全双工多中继系统物理层安全模型,将全双工技术引入到协作中继选择的模型中,提出了可变双工中继选择(Modified Duplex Relay Selection)方案。本方案利用了半双工技术与全双工技术各自的优势,在多个中继节点中选择出这两种双工模式下,可令整个系统可达安全速率最大的中继节点,把该中继节点作为最优中继选择的结果。最后,推导出可变双工中继选择方案的可达安全速率与安全中断概率,仿真验证了采用可变双工中继选择方案的优势。第三,对于多用户全双工中继系统物理层安全模型,结合了全双工技术与随机加权编码,提出了全双工中继随机加权(Full Duplex RelayRandomWeight)方案。在本方案中,中继节点工作在全双工模式,并采用随机加权编码的方法来处理接收信号,可以使多个窃听者节点无法解析出期望信号,而目的节点可以不受干扰的影响。最后,推导出全双工中继随机加权方案的可达安全速率,仿真验证了采用全双工中继随机加权方案对系统安全性能的提升。