可重复使用运载器(RLV)应用广泛,在民用领域和军用领域都受到了国内外学者的高度重视,RLV飞行范围广,气动环境变化剧烈,对飞行控制的自适应性和鲁棒性提出了较高的要求。能够自主的调节控制性能是目前飞行器控制领域的发展趋势。本文主要针对飞行器的再入无动力返回段的控制系统进行研究,主要研究了以下几个方面。首先推导了飞行器的六自由度数学模型,在一定的前提假设下,构建了飞行器姿态控制模型和控制分配模型,为后续的滑模控制和控制分配奠定了基础。其次,对于飞行器的姿态控制问题,依据多时间尺度理论,将控制系统分为内外两个回路,分别设计自适应非奇异积分终端滑模控制器,考虑到外界力矩干扰和转动惯量的摄动,设计了超螺旋干扰观测器对摄动和干扰量进行估计,对于控制量饱和的情况,在原有控制律的基础上增加了超前动态抗饱和补偿方案,有效的缩短了控制饱和的时间,并通过仿真验证了所设计的改进方法的有效性。接着对于滑模控制器产生的虚拟力矩指令,通过引入控制分配,建立起了控制器加多执行机构的控制系统结构,设计了基于烟花算法的控制分配策略,通过混沌初始化,混沌火花策略有效搜索解空间。针对烟花集群现象,通过K近邻算法估计聚集密度,自适应调节子代爆炸半径快速减小聚集度。再通过引入多种群的思想对混沌烟花算法进行改进,提出一种基于天牛须搜索算法的多种群协同搜索策略,对飞行器力矩指令进行跟踪,验证了改进的烟花算法的性能强于传统烟花算法和粒子群算法。然后针对执行机动的速率约束,控制效率矩阵存在不确定性和控制分配方案实时性的需求的特点,设计了一种基于凸优化的鲁棒快速控制分配策略,首先介绍了传统的伪逆法和二次规划处理策略,之后对于偏转量最小的性能指标建立起基于鲁棒优化的数学规划问题,并使用Huber损失函数来代替传统的二范数,然后再将其转换为二阶锥规划进行求解,仿真结果表明了该方法能够在存在不确定性的情况下快速完成控制分配的任务,并且跟踪效果良好。最后,对全文的内容进行了总结,并对本文的研究内容中存在不足进行了分析探讨,对讨论飞行器姿态控制方法未来的研究方向。