核聚变能是公认的“清洁、安全、永久”的现代战略能源，是解决全球能源问题的关键。高能聚变中子辐照下聚变堆材料、部件的服役稳定性和安全性是制约聚变能发展的关键核科学与技术问题，因此迫切需要发展聚变中子源测试装置，用于测试及验证聚变核材料和堆内部件。同时利用聚变中子源来驱动聚变裂变混合堆，实现聚变能源的早期应用。　　基于GDT磁镜的聚变中子源具有技术难度小、结构紧凑、氚消耗量小、运行灵活等优点，是一种非常优秀的聚变中子源候选方案。现有的GDT聚变中子源存在能量增益较低的问题，且由于磁体技术、中性束加热技术限制，在工程技术方面制约了聚变能量增益的提高。　　为了提高GDT聚变中子源的竞争力，本论文提出了一种在现有工程技术水平下，通过设计优化提高GDT聚变能量增益的方法，同时开展高能量增益的GDT聚变中子源方案设计研究。本文主要开展了以下研究工作:　　(1)提出了在高磁场中性束注入以提高聚变能量增益的方法。通过在强磁场的位置注入中性束，最大限度地提高快离子在折返点的磁场强度和密度;并且能将快离子折返点的磁场强度与中平面磁场强度关系解耦，进而在保持折返点高磁场强度的条件下，能够通过降低中平面磁场的方式提高磁镜比。计算结果表明，此方案设计能够使GDT聚变中子源能量增益在现有设计的物理和工程基础之上提高2～3倍。　　(2)通过详细分析高密度快离子自身碰撞引起的散射损失，更新GDT聚变中子源中能量平衡、等离子体粒子平衡以及约束时间方程，完成了适用于描述高密度快离子情况下的GDT物理设计模型。同时，通过合理的设计，如增大等离子体半径或磁镜长度，实现抑制等离子体磁流体不稳定性，特别是Fire-hose微观不稳定性的激发。解决了引入高磁场中性束注入方法后，高密度快离子和磁流体不稳定带来的不利影响。　　(3)基于最新的高场中性束注入提升聚变能量增益方法，对GDT聚变中子源的两个主要应用方向——聚变材料测试和聚变裂变混合堆，设计了两套高能量增益GDT聚变中子源方案。完成了用于聚变材料测试的GDT聚变中子源关键子系统部件，如磁体系统、加热与加料系统、真空室和氚循环系统的初步设计，该方案在当前工程技术水平下具备一定的可行性。基于优化的用于聚变裂变混合堆的GDT聚变中子源设计方案，开展了GDT聚变中子源驱动的次锕系核废料聚变裂变混合嬗变堆研究，完成了次临界包层设计与初步中子学分析。中子学结果表明该聚变裂变混合嬗变堆具有较优的应用前景。