随着移动数据业务和终端数量的爆炸式增长,对第五代（the Fifth Generation,5G）移动通信网络的系统容量和频谱效率提出了更高的要求,毫米波（millimeter Wave,mm Wave）技术、大规模多输入多出输出（Massive Multiple-Input Multiple-Output,Massive MIMO）以及多点传输（multiple transmission and reception point,multi-TRP）技术作为5G关键技术相继出现。毫米波具有丰富的频谱资源,近年来倍受关注,但其波长较短,路损严重,在信号传输上不占优势,若其与Massive MIMO技术相结合,可通过配置大规模天线形成指向性更好的赋形波束,从而获得较大增益,弥补损耗。毫米波系统中传统的波束赋形技术存在训练过程复杂,信令开销大的问题;同时小区致密化会导致小区内部及小区间干扰变的更加严重;由于毫米波波束较窄,用户运动或障碍物遮挡会造成收发双方产生波束失准,从而导致波束失败。针对上述问题,本文对以毫米波为代表的高频组网下的大规模多天线波束管理及优化展开研究。主要研究内容及创新点如下:针对毫米波系统中用户高速移动时波束追踪产生较大信令开销的问题,提出了动态时隙捆绑帧结构及可变波宽配置,以减小高速运动对波束追踪性能的影响,同时降低信令开销;基于该帧结构,利用强化学习的方法,结合用户位置和速度预测,以及捆绑时隙内反馈的吞吐量,给出波束宽度和捆绑时隙数的参数优化策略,并进一步提出了一种基于actor-critic的移动性感知自适应波束追踪算法,以最大化系统长期平均吞吐量性能。仿真结果表明,本文所提的自适应波束追踪算法在降低系统开销方面表现出明显的优越性,同时相比于传统的全扫描和卡尔曼滤波的波束追踪算法能够分别提升11.34%和24.86%的平均吞吐量。针对毫米波多基站组网场景中基站间波束数量的非均匀差异以及干扰复杂的问题,提出了非均匀波束数量下基于拉格朗日对偶的波束选择和功率分配联合优化算法,以降低小区间和小区内波束间干扰,最大化系统频谱效率;此外,由于波束选择变量的离散性以及目标函数的非凸性,提出了利用松弛变量法和对数近似法将原优化问题转化为凸优化问题进行求解。系统级仿真表明,本文所提联合优化算法具有较好的收敛性,并且在考虑非均匀波束数量的条件下,所提算法相比于传统的“Max-SINR”和“Max-Directional gain”波束选择算法能在系统频谱效率上分别提升10.56%和11.85%。针对高频组网中多点传输场景缺少大规模多天线波束失败恢复机制的问题,考虑多点传输技术的联合传输特性,首先以增加系统可靠性为目标,提出了联合波束失败恢复（Joint Beam Failure Recovery,J-BFR）机制;随后以提升系统吞吐量为目标,提出了部分波束失败恢复（Partial Beam Failure Recovery,P-BFR）机制,以降低波束失败传输的次数;最后,基于所提的波束失败恢复机制,设计了与之相适配的波束失败恢复请求上报格式。仿真表明,本文所提机制完善了波束失败恢复机制对多点协作传输场景的支持能力,在超可靠低时延（Ultra Reliable and Low Latency Communications,URLLC）场景下,所提J-BFR机制与传统波束失败恢复机制相比,吞吐量提升了 7.85%。