作为典型的快速、多变量、非线性、强耦合的自然不稳定系统，倒立摆系统只有采取有效的控制方法才能使之稳定，它成为验证各种控制算法有效性的重要实验平台，对倒立摆系统的控制算法的研究具有重要的理论意义和工程应用价值，其研究成果在航空航天及一般工业应用等领域有广阔的开发应用前景。　　 本文以直线电机倒立摆系统为被控对象，研究了模糊控制和滑模变结构控制在这种倒立摆系统中的应用;针对变结构控制过程中系统出现的抖振问题进行研究，提出模糊控制和滑模变结构控制相结合的复合控制策略以削弱抖振，并保持滑模变结构控制的良好特性。　　 文中在阐述了倒立摆系统控制方法的研究进展和研究现状之后，介绍了倒立摆系统的物理结构模型，并详细推导了一级、二级倒立摆系统的状态空间方程。　　 将模糊控制方法和滑模变结构控制方法分别应用于该倒立摆系统上，进行控制器的设计实现稳定控制，通过MATLAB/SIMULINK仿真试验，验证了这两种控制方法在直线电机倒立摆系统上的可行性，并分析出各自适用的摆杆角度范围。　　 针对滑模变结构控制时系统出现的抖振问题，分析了产生的原因和削弱的方法，提出模糊控制和滑模变结构控制相结合的复合控制策略，以削弱抖振但还能保持滑模变结构控制的优良特性。然后运用复合控制方法设计控制器，在MATLAB/SIMULINK下进行仿真试验，从仿真结果上可以看出系统的抖振有所减弱。　　 最后，分别将模糊控制、滑模变结构控制以及复合控制方法在实物系统上进行实验，成功将这三种控制方法应用到了直线电机倒立摆系统上，实验证明了三种控制方法在直线电机倒立摆系统上的可行性及有效性，并对实验结果进行比较分析，可以看出采用复合控制方法控制的系统抖振削弱了并且还保持了滑模变结构控制的良好特性。