在3G蜂窝网络系统中,视频和社交媒体等高速率需求业务已占用了大部分可用的频谱资源。随着手机用户数目的快速增长,匮乏的无线资源越来越难满足用户的需求。为了改善这一现状,LTE-A网络引入了端到端(Device-to-Device,D2D)通信模式。相比传统的蜂窝通信,D2D模式下,两个设备终端可以不再通过基站中继,而使用它们之间单跳直通的链路进行数据传输,基站只负责提供少许控制信息。D2D通信可以降低设备发射功率,扩大小区覆盖范围,显著提升资源利用率。如何为D2D通信分配资源,实现最大化的资源利用率是混合D2D蜂窝网络资源优化的关键。尽管混合D2D蜂窝网络资源优化问题很重要,但由于资源分配存在多种多样的形式,不同形式下资源优化要考虑的情况又截然不同,所以混合D2D网络的资源优化问题一直没有被彻底解决。本文根据资源共享方式分类,分析不同共享方式下的系统特征,着重对正交共享模式下的资源优化问题进行建模。针对正交共享模式下的资源优化,本文以最大化系统吞吐量为目标,分别对频分复用和时分复用模式下的混合网络进行建模,提出一种基于线性规划和二分图匹配的混合网络资源优化算法(hybrid-network Resource optimization Method,hnRoM),该方法能保证在满足所有用户最小传输速率的前提下,全数接入系统中所有的DU(D2D User),从而显著提升频谱效益。此外,本文还将优化场景拓展到非正交共享模式下的混合D2D蜂窝网络中。针对非正交共享模式下同频干扰不可避免的特点,本文将优化内容分为干扰协调和DU-CU共享配对两部分,通过功率控制进行干扰协调,DU-CU共享配对决定DU复用哪个CU(Cellular User)的资源。由于复用上行资源和下行资源的干扰情况不同,本文对两种情况区分讨论。以最大化服务DU数目同时最小化系统总功耗为目标,在hnRoM算法的基础上,针对前者提出基于用户位置信息的资源分配策略,针对后者提出基于距离方差的资源分配方法。两种方法的性能都非常接近最优解算法,却比最优解算法的时间复杂度要低一个幂次。