近年来，非线性动力学在理论和应用两方面均得到了很大发展，使得越来越多的工程科学、生命科学、社会科学等领域中的非线性问题被提出。运用发展而来的非线性动力学理论和方法，能对非线性系统进行预测其长期的动力学行为并揭示其内在的规律性。由于高维非线性系统具有更加复杂、丰富的动力学性质，且其研究难度比低维系统大的多，因而受到大量学者的关注，也一直是研究的热点和前沿问题。　　 本文主要研究了几类四维非线性系统的稳定性、分岔与混沌问题，内容包括以下几个方面：　　 首先，利用解析和数值的方法研究了一类含参数激励的超声波加工系统1:1内共振条件下的稳定性和分岔。对阻尼系数和调谐参数两种情形下的五种不同类型的平衡点，即平衡点处的特征值分别为双零和两负特征值、双零和一对共轭纯虚根特征值、两对共轭纯虚根特征值、单零和一对共轭纯虚根特征值、三零特征值等五种情况，进行了分析。对于这些不同情况，利用规范型理论，给出了各种情形下平衡点的稳定区域及相应的转迁曲线方程，得到了这类模型丰富的动力学性质。数值仿真进一步验证了分析结论的正确性。　　 其次，研究了功能梯度材料矩形板1:1内共振和主共振条件下的全局动力学行为。对于系统的平均方程，首先利用全局摄动法即高维Melnikov方法，给出了单脉动Silnikov型同宿轨道存在性的解析条件。其次利用能量-相位法，研究了系统在两种扰动情形下的多脉动Silnikov型同宿轨道的存在性。进而利用数值仿真对所得结论进行了验证。由数值仿真的结论可知，对于该系统存在一种有趣的现象，即不论是单脉动还是多脉动Silnikov型同宿轨道存在导致系统出现Smale马蹄意义下的混沌时，系统的混沌运动总表现为一个二维子空间上拟周期而二维补子空间上混沌这样一种特殊的运动形式。　　 再次，利用广义Melnikov方法研究了一类带有参激和外激的悬索系统在1:1内共振、主共振和参激共振条件下的多脉动同宿轨道。对于系统的平均方程，利用规范型理论得到了平凡零解处具有双零和一对共轭纯虚特征根的规范型。运用Camassa等提出的广义Melnikov方法，研究了系统多脉动同宿轨的存在性，并具体给出了这些脉动轨道的构成。对原系统和平均方程的数值仿真说明当平均方程存在混沌运动时，相应的原系统也存在混沌运动现象。