小型无人直升机是不需要人类驾驶,能够完成自主飞行任务的特殊飞行器。此类飞行器具有垂直起降、低空飞行等诸多特点,在各个领域得到了广泛的应用。同时,由于无人直升机具有强耦合、非线性、数学模型复杂等特点,使得对无人直升机的动力学分析建模和控制器设计都较为困难。因此,本文主要针对小型无人直升机的姿态控制问题,基于无模型自适应控制理论设计了两种新型的控制器,并在数值仿真和实际的飞行实验中取得了良好的效果。首先,本文介绍了小型无人直升机的飞行原理,分析了小型无人直升机运动学与动力学模型的特性,为后续工作奠定了基础。本次分析不仅仅考虑了基本的刚体运动学和动力学,同时进一步研究了旋翼动力学和旋翼挥舞动力学的特性,使模型包含了更多非线性特性,为后文控制器的设计与数值仿真提供帮助。其次,本文针对小型无人直升机的姿态控制问题,考虑到现有基于模型的控制方法对系统动力学模型的依赖性,以及未建模动态对系统控制性能的影响,设计了一种新的基于数据驱动的无模型自适应(Model-free Adaptive)鲁棒控制律。通过基于数据驱动的设计方法,降低了控制器对直升机动力学模型先验知识的依赖,补偿了未建模不确定性的影响。仅利用无人直升机的输入输出数据,即可实现对无人直升机系统的稳定姿态控制。然后本文结合离散滑模控制设计,补偿了未知外界扰动的影响,提高了系统的鲁棒性,并通过理论证明了控制误差的收敛性和闭环系统的稳定性。经实验结果表明,本文所提出的控制算法取得了很好的姿态控制效果,并对系统不确定性和外界风扰动具有良好的鲁棒性。最后,本文针对小型无人直升机系统存在的不确定性和风扰问题,设计了基于浸入-不变集理论(Immersion and Invariance)和无模型自适应理论的非线性控制器。本文利用浸入-不变集理论较好的估计了空气阻力系数,并对控制器输出进行了补偿。与此同时改进了传统滑模控制,进一步增强了系统的鲁棒性并很好的减少了抖震现象。随后证明了系统中自适应参数的收敛性和闭环系统的稳定性。通过数值仿真以及实际飞行实验验证了所设计的控制器具有良好的姿态跟踪效果。