本文将非线性动力系统的分岔与混沌理论应用于水轮机调节系统的不同非线性模型，对系统的非线性动力学特性进行了较为系统的研究与探讨，取得了一些新的、有益的成果。 系统地给出了水轮机调节系统的连续时间数学模型，包括：线性化模型、非线性模型；在线性化模型的基础上考虑某些典型的非线性环节的模型；刚性和弹性水击模型；考虑调压井效应的模型等。在此基础上，运用现代数学中的非线性动力系统分岔与混沌理论，对水轮机调节系统中可能存在的非线性动力学行为进行了较深入的理论分析和大量的计算，通过分岔图来进一步观察了系统的超临界Hopf分岔特性。对于考虑发电机转子二阶动态模型的水轮机调节系统非线性模型(包括刚性水击和弹性水击的非线性模型)，运用非线性系统理论对Hopf分岔和混沌现象进行了分析，通过系统分岔图、混沌吸引子、Poincar6映射、Lyapunov指数以及初值敏感依赖性等方面的研究，揭示了水轮机调节系统内存在混沌现象的可能性及其丰富的动力学行为。 对于四维和六维非线性系统，给出了判断系统出现双Hopf分岔的必要条件，采用该方法判断系统双Hopf分岔的存在性，具有简单实用、计算量小等特点，可用于一般的四～六维非线性系统。对水轮机调节系统的四维和六维非线性模型进行了双Hopf分岔的存在性的计算，对于考虑水轮机及引水道非线性动态模型的水轮机调节系统，无论是刚性水击还是弹性水击模型，都存在双Hopf分岔现象，通过计算给出了发生双Hopf分岔时的参数值，仿真验证了计算结果的正确性。 运用非线性动力系统的分岔存在性判据，对有调压井时的水轮机调节系统非线性动态模型进行了理论分析和计算；给出了在参数空间中的分岔临界点位置(分岔集)，通过进一步计算判明了Hopf分岔为超临界的；分别研究了系统在无扰动、2.5Hz频率扰动和30％负荷扰动时，分岔临界点位置的变化；对不同情况下，调节器参数取分岔临界点两侧数值时的系统动态特性进行了仿真，其结果与理论分析是一致的。 应用输出对扰动解耦的非线性控制系统设计原理，对水轮机调节系统的刚性水击和弹性水击系统设计了相应的非线性反馈控制器，仿真结果表明，基于输出对扰动解耦的非线性控制系统原理，可以设计出鲁棒性很强的非线性控制器。 本文的研究为进一步揭示水轮机调节系统中的复杂非线性动力学现象和稳定性分析提供了一条新的理论分析途径。