网络安全是无线网络的核心问题之一，它是任何一个无线网络成功推广和应用的基本条件。而且，随着无线网络用户数量的急剧增加和无线网络环境的恶化，网络安全问题也将面临更严峻的挑战。如何保证和提高信息的安全性，一直是无线通信技术研究的一个重点领域。与有线网络类似，传统的无线网络安全都是通过密钥加密的方式，在网络协议栈的上层利用各种加密算法对信息进行加密，从而确保信息的安全性。然而，一种新型加密算法的提出，往往伴随而来的是一种破解算法的出现。虽然密钥加密的方法可以较好地保证无线网络的信息安全性，但往往需要以较高的计算复杂度为代价。与密钥加密从网络协议出发不同，物理层安全从另外一个角度来考虑无线网络的信息安全问题。开放的物理信道，多径和衰落的传输特性，使得无线网络将面临比有线网络更为严重的网络安全问题。然而，原本不利的一些信道特性，却可以从另外一个角度来加以利用。无线网络物理层安全从信息论的角度出发，充分利用无线信道的各种传播特性，在物理层来解决通信过程中的信息安全问题。本文研究了几种不同无线网络的物理层安全问题，提出了相应的提高其物理层安全性能的算法。在进行深入分析和研究的过程中，取得了以下研究成果：1)研究了噪声辅助方式下的MISO认知无线电网络的物理层安全性能，从用户服务质量(QoS)的角度分析了发射端的优化设计。联合优化发射波束成形向量和人为噪声的协方差矩阵，利用半定松弛技术，把复杂的优化问题转化为一个半定规划问题，从而有效地得到了系统的最优发射方案。另外，当次用户的发射端获得的信道状态信息存在误差时，使用最差性能最优的方法，对发射机进行了鲁棒性设计。从而确保在非完美信道状态信息的情况下，系统依然可以获得较好的物理层安全性能。2)研究了干扰协作方式下的MISO认知无线电网络的物理层安全问题。在一个MISO认知无线电网络网络中，利用一个多天线协作节点的帮助，来提高系统的安全速率。以次用户的安全速率作为优化目标，系统的优化问题难以直接求解。因此，提出了两种次优的算法：COP算法和POP算法，通过把原始优化问题分解成两个子问题进行求解。研究分析发现，相对于无协作节点帮助的情况，两种算法都可以在一定程度上提高次用户的安全速率。其中COP算法拥有相对较低的计算复杂度，但必须满足协作用户天线数N h≥3的条件；而POP算法性能优于COP算法，且适用于N h=2的情况，但算法复杂度高于COP算法。3)研究了AF协作中继网络的物理层安全问题。针对信息传输第一个阶段中的信息泄露，本文提出一种基于模拟网络编码的信号阻塞方式。在源节点对中继节点广播信息的同时，目的节点利用一定比例的发射功率发射一个人为噪声，用来对非法用户的信息窃听进行干扰。根据模拟网络编码的原理，目的节点可以消除人为噪声信号对其自身的干扰。通过把优化问题分解为求解中继节点发送波束成形和节点间功率分配的两个子问题，可以有效地求得问题的一个次优解。仿真结果表明，基于网络编码的算法可以有效地拟制无线中继网络第一个信息传输阶段的信息泄露，从而在一定程度上提高系统的安全通信速率。