随着移动通信技术和智能终端的飞速发展,当今世界正慢慢走向万物联网的大连接时代,通信领域的入网设备数量和移动数据流量也迎来爆炸式增长,随之带来的是频谱资源需求急剧增长,频谱资源稀缺和频谱有效利用率低的矛盾日益凸显。超密集网络作为第五代移动通信系统(5G)的一项关键技术,能够有效提升系统容量,实现网络无缝连接。但是,这种超密集、多层次、异构化的网络部署容易导致用户对频谱资源使用竞争的进一步加剧、能量消耗扩大等问题,因此传统的频谱资源管理方案已经无法适应未来复杂的网络系统,提出面向5G超密集异构网络环境的频谱资源管理方案是大势所趋。作为一种能够对频谱资源进行动态管理与利用的重要途径,认知无线电(Cognitive Radio,CR)技术能够有效提高频谱利用率,解决频谱资源紧缺的问题,同时,CR具有学习和重置能力,能够自适应地调整其工作参数,在保证用户服务质量的基础上控制发射功率,以降低干扰并减少网络系统能源消耗。论文提出一种基于超密集认知网络的频谱资源管理方案,在国内外众多学者对频谱资源管理和CR技术研究的基础上,针对上述一些亟待解决的重要问题,进行了以下主要研究:1.针对超密集异构网络中频谱资源紧缺与利用率不高的问题,通过综合考虑噪声功率的不确定性、多径衰落和阴影效应、恶意次用户对系统感知性能的影响以及认知网络吞吐量与感知时间的关系,以认知用户频谱效率最大化为目标,提出一种基于信誉值传递的动态双阈值半软融合协作频谱感知算法。该算法由最优频谱效率下的最佳单检测阈值得到基于噪声功率不确定性因子的动态双检测阈值,从而抑制噪声功率不确定性对感知结果的影响,并通过基于上一周期频谱感知结果更新的认知用户信誉值,将位于可靠区的本地感知信息发送到融合中心进行半软融合协作检测,实现对恶意次用户的筛选以及频谱感知性能的进一步提升。仿真结果与对比分析表明该算法能够适用于复杂多变的信道环境,降低噪声功率不确定对频谱感知性能的影响,同时能够较好地抵御恶意次用户对感知系统的频谱感知数据篡改攻击,从而保证频谱共享系统的安全性,最终有效提高认知网络频谱资源的利用率、扩大系统容量、缓解用户对频谱资源使用的竞争。2.在保证认知网络系统具有较好频谱感知性能的基础上,针对超密集异构网络中的干扰和能量消耗问题,首先基于动态频谱接入技术提出一种综合Overlay和Underlay两种共享模式的混合频谱接入机制以充分利用空白频谱资源,在一定程度上实现认知用户频谱效率最大化。其次,基于上述混合频谱共享模式,考虑到频谱感知技术的局限性,研究了不完美频谱感知下对用户的功率控制和干扰抑制管理策略,通过将功率分配过程建模为一个非合作Stackelberg博弈,认知用户在综合考虑自身业务需求、对主用户的干扰以及需要付出的价格后,以实现自身能量效率最大化为目标进行功率分配。对能量效率最优化功率分配问题建模得到一个非线性分数规划问题,将原始优化问题等效转换为参数减法形式的优化问题,并基于拉格朗日乘子法以及拉格朗日对偶性质,最终采用Dinkelbachs算法和次梯度法得到认知用户的最佳发射功率分配策略。仿真结果显示了所提功率控制策略的收敛性和有效性,通过数值分析证明该方案不仅能够充分抑制认知用户对主用户的干扰,而且能够在一定程度上同时实现认知用户能量效率和频谱效率的最大化。