锥齿轮传动在动力、机械、航空航天等领域有着广泛的应用。本文以滚动轴承支承的锥齿轮传动转子系统为研究对象，分析了系统的非线性动力学行为。首先基于Hertz接触理论和滚动轴承运动学特征求得滚动轴承支承刚度，采用石川法求得齿轮的时变啮合刚度。在理想与含波纹故障滚动轴承两种情况下，分别阐述了有无质量偏心、静态传递误差、齿侧间隙等几类模型，采用变步长的Runge-kutta数值积分方法，分析了滚动轴承支承的锥齿轮传动转子系统的非线性动力学特性。本文的主要工作及结论如下：　　1.根据Hertz接触理论和滚动轴承运动学特征，分析了滚动轴承的非线性作用力及锥齿轮的啮合刚度，建立了七自由度滚动轴承-锥齿轮传动系统非线性动力学模型。　　2.应用数值解法对所建立的微分方程进行分析求解，结果表明系统中的滚动轴承力和齿轮啮合力等对转子系统的振动起到主导作用。一般情况下，当转速较大时，质量偏心力对系统的动力学影响较大。　　3.结合系统的轴心轨迹、Poincaré映射、位移响应、频谱等响应图，滚动轴承-锥齿轮转子系统在不同模型下会出现单周期、准周期、混沌等各种动力学行为，非线性因素考虑越多，系统出现混沌的转速范围会加大，且系统有由准周期和阵发性通向混沌的通道。　　4.建立含波纹故障的滚动轴承-锥齿轮传动系统模型，由于外加一个周期性激励的影响，低转速下轴心轨迹会出现“8”字形轨线，轴心轨迹与Poincaré映射具有自相似的特征。　　5.讨论了阻尼、啮合刚度、几何参数（静态传递误差、齿侧间隙等）对多间隙时变不平衡滚动轴承锥齿轮转子系统动力学的影响，通过数值分析发现各参数对系统的非线性动力学影响较大，系统主要做准周期和混沌的交替运动。