现有蜂窝移动通信系统进一步提高网络容量受到频谱资源和能耗的双重约束,因此如何以受限的频谱与能量大幅度地提高网络容量是未来5G移动通信的一个很大挑战。作为新型的无线网络架构,小蜂窝技术能够有效地解决容量提升以及能效提高等问题,因此受到业界广泛关注。然而在引入小蜂窝之后,蜂窝移动通信出现新的特点：密集多小区、两层网络和自组织特点,使得小蜂窝系统的资源管理非常复杂。为了提高小蜂窝系统的性能,本文就小蜂窝系统中的功率控制技术展开研究。首先,研究了小蜂窝系统高谱效功率控制方法。首先根据非协作博弈理论形成一个功率控制游戏,并在给定总的传输功率的情况下,每一个小基站都各自优化自己的吞吐量。然后,提出采用几何注水方法对每一个小基站的吞吐量优化问题进行求解,从而实现了小蜂窝系统中的分布式功率控制。仿真结果表明在给定总的传输功率下,所提算法够将小蜂窝通信系统的吞吐量提高将近20%。同时仿真结果揭示了随着总传输功率的变化,系统能效与系统吞吐量之间存在一种折衷关系,可以根据能效和吞吐量的不同需求对系统性能进行优化。其次,研究了小蜂窝系统高能效功率控制方法。首先提出根据非协作博弈论形成一个功率控制游戏,使得每个小蜂窝能够各自优化自己的性能。在这个非协作功率控制游戏中,每个小基站将能效作为优化目标,并形成了一个非凸的优化问题。然后,采用无参数分式规划方法和透视函数的概念,将非凸的能效优化问题转化为一个等价的凸优化问题,以进一步降低优化问题求解的复杂度。最后,提出采用混合罚函数法将所形成的有约束凸优化问题转化为一个等价的无约束凸优化问题。其中,非等式约束条件是通过对数罚函数消除的,等式约束是通过二次罚函数消除的。此外,通过理论推导证明了纳什均衡的存在性和唯一性。仿真结果揭示了,在给定最低吞吐量的约束的情况下,采用所提出的算法时,系统能效随着最大功率约束值的增加先增加然后达到一个稳定值,改善了使用已有方法优化系统吞吐量时最大功率约束值增加到一定程度系统能效急剧下降的情况。再次,研究了小蜂窝系统高谱效低功耗功率控制方法。首先根据斯坦克尔伯格博弈同时对宏基站和小基站的功率控制问题进行数学建模,其中将宏基站作为领导者,小基站作为跟随者。然后通过两层迭代对所形成的优化问题进行求解。在第一层迭代中,宏基站与小基站之间相互博弈,宏基站根据其他小基站的行动计算自己的发射功率,并通过理论分析推导出了宏基站最优功率的表达式。在第二层迭代中,各个小基站之间相互博弈,通过不断迭代来获得自己的传输功率,并通过理论分析推导出了小基站最优传输功率的隐式表达式。仿真结果揭示了,采用所提出基于斯坦克尔伯格博弈的功率控制方法与基于非协作博弈论的功率控制方法相比,能够明显改善宏基站用户的性能,并在一定程度上提高纳什均衡的有效性。最后,研究了小蜂窝系统高能效高公平性的功率控制方法。所研究的小蜂窝通信系统中,小基站是多天线的,而宏基站是大规模天线的。所提出的高能效高公平性功率控制方法,是通过将功率控制问题分解为两步来实现的。在第一步中,提出将用户进行分组,同一个小组里的用户复用相同资源,各个小组优化各自的能效。在第二步中,提出根基于演化博弈论为每组用户形成一个功率控制游戏,于是两层网络中的每个用户都能够各自优化自己的能效。在基于演化博弈论所形成的功率控制游戏中,每个用户选择能够使得自己的能效大于平均能效的策略,因此提高了用户间的公平性,而且所提出的功率控制方法的复杂度随载波数量和小基站数量呈线性增加。仿真结果揭示了,通过所提出的基于演化博弈论的功率控制方法,每个用户的能效都能够接近系统平均能效,而通过基于非协作博弈论的功率控制方法,各个用户的能效差异较大,于是所提出的算法极大提高了用户间的公平性和纳什均衡的有效性。