本论文以三轴稳定小卫星高性能姿态控制系统为研究对象,对基于反作用飞轮和磁力矩器联合控制的小卫星姿态控制系统进行研究。重点解决三轴稳定小卫星的反作用飞轮和磁力矩器联合控制,以及飞轮故障模式下的小卫星姿态控制方案和算法等问题,取得了如下创新成果:首先,针对有三轴正交安装反作用飞轮和三轴磁力矩器的小卫星,采用磁控和轮控联合的方案,以充分利用星上硬件资源性能,提高小卫星功能密度。设计了由控制算法和控制分配构成的联合控制方案,以降低控制系统设计的难度;推导了姿态大角度机动的递阶饱和控制算法,并提出了最大磁控力矩和能耗最优两种控制分配策略,数值仿真结果表明本章提出的联合控制方案的合理性和控制算法的有效性。其次,针对单轴反作用飞轮故障的情况,设计使用剩余两轴反作用飞轮和三轴磁力矩器进行联合控制的故障处理方案,推导了故障模式下的联合姿态控制算法,并提出了直接控制分配和控制性能最优两种控制分配策略,数值仿真结果表明了本章提出方法的可行性和算法的有效性。最后,针对两轴反作用飞轮故障的情况,首先验证了使用反作用飞轮和三轴磁力矩器联合控制的控制方案的控制性能,结果表明该方案不能实现小卫星的高精度稳定控制任务。针对剩余俯仰轴反作用飞轮正常工作的特殊情况,提出利用将该轴反作用飞轮起旋为一个动量轮,然后与三轴磁力矩器联合控制的故障处理方案,以提高系统的控制精度,并分别设计了利用磁力矩器的飞轮起旋控制策略和基于遗传算法的控制器参数设计方法。仿真结果表明该方案能够实现较高的控制精度,进一步延长小卫星的任务寿命。本论文对反作用飞轮和磁力矩器联合控制技术,以及飞轮故障模式下的小卫星姿态控制方案和算法等问题进行了一些有益的探讨,以期为我国小卫星的设计与研制提供一些行之有效的技术手段。