随着无线通信产业的飞速发展,各种新型的智能设备与无线业务不断涌现,造成无线数据流量的增加,因而对频谱资源的需求也日益剧增。然而,在目前频谱固定分配的政策下,大部分被分配的频谱资源未能得到充分利用,造成日益增长的频谱需求与其利用率低的矛盾愈加凸显,严重制约了无线通信的发展。认知无线电的出现被认为是提升频谱利用率的一项非常有效的技术,有着十分重要的研究价值。此外,将波束成形技术与认知无线电相结合,可以在提升频谱利用率的同时,有效对抗信道衰落带来的影响,抑制用户间干扰,大幅提高系统容量,对推动未来通信技术的发展具有至关重要的意义。本文围绕认知无线网络中的波束成形设计问题,以信干噪比(Signal to Interference Plus Noise Ratio,SINR)、发送功率和保密速率为关键指标,并结合协作中继、射频能量收集以及物理层安全等技术展开研究。具体来说,分别针对分布式认知双向中继网络、认知多输入单输出(Multiple Input Single Output,MISO)能量收集网络以及主-次协作认知无线能量收集网络三种场景下的波束成形设计问题进行了研究。本文的主要工作及创新成果可归纳为三点:第一,研究了分布式认知双向中继网络中的鲁棒波束成形设计问题。首先,针对网络中信道误差为确定误差模型的情况,本文以SINR为指标,设计了基于最差情况(worst-case)的分布式鲁棒波束成形方案。该方案以最大化最小次用户的SINR为目标,同时满足中继处发送总功率以及对主用户产生的干扰功率的约束条件,并提出了基于 S-procedure 与半正定松弛(Semidefinite Relaxation,SDR)的鲁棒波束成形算法,将最初的非凸的问题转化为凸优化问题,并利用二分法进行求解。仿真结果验证了该设计方案能够满足系统传输要求,对信道误差具有鲁棒性。其次,针对网络中信道误差为随机误差模型的情况,本文以发送功率为指标,设计了基于概率约束的分布式鲁棒波束成形方案。该方案以最小化中继处的总发送功率为目标,同时满足次用户SINR以及主用户干扰功率的概率约束条件,并分别提出了基于Bernstein型不等式的鲁棒波束成形算法和基于S-Procedure的鲁棒波束成形算法。仿真结果表明,两种鲁棒波束成形算法对信道误差均具有鲁棒性,且与基于S-Procedure的优化算法相比,基于Bernstein型不等式的鲁棒波束成形算法具有更高的可行性,并且更加节能,但是计算复杂度较高。第二,研究了认知MISO无线能量收集网络中的波束成形设计问题。首先,针对认知MISO无线能量收集网络中信道误差为随机误差模型的情况,本文以发送功率为指标,设计了基于概率约束的联合优化鲁棒波束成形向量和功率分割因子(Beamforming and Power Splitting Ratio,BFPS)的方案。该方案以最小化认知基站的发送功率为目标,同时满足次用户SINR、次用户收集能量以及对主用户干扰功率的概率约束条件,并分别提出了基于Bernstein型不等式的鲁棒BFPS算法与基于S-Procedure的鲁棒BFPS算法进行求解。并通过数值仿真验证了所提算法均能满足通信系统的概率约束条件,且基于Bernstein型不等式的优化算法更加节能。其次,针对认知MISO无线能量收集网络中存在多个窃听用户的情况,本文以保密速率为指标,提出了全双工充电式干扰源辅助的安全传输策略。在完美信道状态信息(Channel State Information,CSI)的情况下,本文设计了联合优化认知基站的发送波束成形向量和干扰源的噪声协方差矩阵的方案,该方案可实现最大化次用户保密速率的目标,同时满足认知基站发送功率、干扰源发送功率以及主用户受到的干扰功率的约束条件,并提出了基于Charnes-Cooper变换和SDR技术的双层迭代优化算法,利用仿真证明了所提传输策略与联合优化方案可增强系统的保密性能。此外,在非完美CSI的情况下,本文设计了协作干扰源辅助的鲁棒波束成形方案,通过仿真验证,本文提出的鲁棒方案在提高系统安全性的同时,增强了系统对信道误差的鲁棒性。第三,研究了主-次协作认知无线能量收集网络中的波束成形设计问题。针对主-次协作认知无线能量收集网络中存在多个多天线窃听用户的情况,本文以保密速率为指标,提出了无线充电式协作干扰源辅助的安全传输策略来提高次用户的可达保密速率。首先,本文设计了联合优化次用户发送端的转发波束成形矩阵、发送波束成形向量以及干扰噪声协方差矩阵的方案。该方案以实现次用户的保密速率最大化为目标,同时满足次用户发送功率、干扰源发送功率、收集的能量以及主用户的信息速率的约束条件,并提出了基于Charnes-Cooper变换和SDR方法的双层迭代优化算法,对建立的优化问题进行求解。其次,本文设计了次优的基于各向同性噪声的波束成形因子设计方案。相比基于各向同性噪声的波束成形设计方案,所提的联合优化波束成形因子与干扰噪声协方差矩阵方案可更加有效地提升系统的保密性能。