随着全球信息化技术和业务的迅猛发展，无线频谱资源也因其有限性而变得越来越稀缺。然而在不同的时间、地点，不同的无线通信技术对频谱资源的利用率大不相同，一些宝贵的频谱资源并没有被充分合理的利用，其根本原因是静态频谱使用政策，为特定的业务分配固定的频谱，致使只有非常少或者没有频谱资源分配给新的系统和业务，从而导致频谱资源供需矛盾更加严重。认知无线电概念的提出就是为了解决频谱资源紧张频谱利用率低的问题，可有效缓解频谱资源供需矛盾。认知无线电设备可以智能感知周围频谱环境，检测并动态利用主用户的空闲频谱，从而提高频谱利用率。另一方面，绿色通信旨在降低能耗，减少环境污染，对有限资源高效利用。在绿色认知无线电网络中，主要通过功率控制等方法来进行能量效率的优化。此外，主动优化认知无线电对认知无线电系统进行改进优化，其中次用户在以自身利益最大化的同时考虑到可能给主用户带来的干扰，从而优化自身的决策行为。　　本文主要研究认知无线电网络中的主用户和次用户的行为决策问题。首先研究了在绿色认知无线电网络中主用户的行为决策优化问题。次用户竞争有限的频谱资源，主用户以自身利益长期最大化为目标做出优化行为决策，主用户在做决策时考虑到次用户的功率控制策略。主用户的收益主要由状态价格、流量价格和功率价格组成。将认知无线电系统中主用户的行为决策问题转换为RestlessBandits的模型，求解该模型的最优解，实现主用户长期收益最大化。　　其次，研究在主动优化认知无线电网络中次用户的行为决策优化问题。次用户在做决策时主动考虑其行为会对主用户可能带来的干扰。次用户在主动优化认知无线电网络中的传输行为被建模成部分可观测马尔科夫模型，求解该模型的最优解，实现次用户长期收益最大化。仿真结果表明，与已有算法相比，本文所提算法可显著提升系统性能。