由于无线传输的广播特性,私密信息的安全性和隐私性日益成为无线网络中极其重要的问题。方向调制(Directional modulation,DM)作为一种无线网络中物理层安全领域的新兴和有前景的技术,已引起学术界和工业界的巨大研究兴趣。与传统的上层加密技术不同,DM技术不仅与计算复杂度无关,而且不需要进行密钥的分配与管理。另外,DM技术可以在期望方向恢复原始星座图,但在窃听方向由于受到人工噪声的严重干扰,无法可靠恢复信号星座图,从而可以进一步提升系统的安全性能。论文的主要研究内容与创新如下:(一)为了使设计的DM合成算法更接近实际应用场景,比如期望接收机与发射机之间会存在相对运动或者其中之一处于运动状态,提出了一种自适应稳健波束成形算法以适应此种动态情况。所提算法由如下三步组成:首先,通过根值多重信号分类算法估计期望用户和窃听用户信号的到达角(Direction of arrival,DOA),同时运用相应的特征值与接收信号的协方差矩阵的最小特征值之比来估计相应的信噪比;然后,通过测量的DOA和信噪比估计值来预测DOA估计误差的区间;最后,根据前面得到的估计值和预测的DOA误差区间设计稳健的零空间投影波束成形方法。仿真结果表明:所提出的方案与传统的非自适应稳健方案和非自适应非稳健方案相比,在期望方向可以达成更低的误比特率和更高的安全速率。此外,所提出的方案相对于现有方案眼图更清晰。(二)为了优化有用信号和人工噪声的功率分配问题,提出了一种最大化安全速率功率分配策略。利用拉格朗日乘子法,推导出所提最大化安全速率功率分配策略的解析表达式。为了验证所提功率分配策略的优势,采用零空间投影波束成形方案,推导出其最优功率分配策略的闭合表达式。仿真结果表明:与三个典型的功率分配参数(如β=0.1、0.5和0.9)相比,最优功率分配策略能够显著提高安全速率性能,譬如,在信噪比为30dB且天线数为4副时,速率性能可实现62%提升。另外,随着功率分配因子从0增加到1,可实现的安全速率在低信噪比区间会相应地增加,而在中高信噪比区间,安全速率可近似视为功率分配因子β的凹函数。