现代化的发展，致使各个工业领域对轧钢产品的质量有了越来越高的要求，这就要求对各种轧钢机必须具备高精度和高动态性能指标。轧钢机传动系统由于驱动电机与轧辊之间的弹性连接阻碍了速度控制系统的性能提升，以及负载扰动的影响，特别是轧钢机在咬钢过程中产生冲击，其主传动系统往往伴随扭转振动的发生。此种扭转振动不仅使轧件的表面质量受影响，还会导致轧机主传动系统的寿命大大降低，甚至影响传动系统的安全生产，发生断辊、断轴等事故。所以轧机传动系统的扭转振动是轧钢产业的一大问题，到了必须要解决的地步。本文的研究内容如下：首先，基于广义耗散系统Lagrange原理，研究了轧机主传动系统产生扭转振动的机理，建立了考虑非线性刚度、非线性阻尼和双重非线性的主传动扭振动力学方程，这也奠定了研究轧机扭振的理论基础。其次，将分岔理论应用到轧机主传动系统相对转动这一数学模型上，采用多尺度和谐波平衡法求解系统的近似解析解，可以直接得到原系统的规范型，运用动态分岔理论研究周期解和概周期解的稳定性，给出稳定域边界条件提供了轧机平稳运行的理论依据。再次，在Lagrange-Maxwell的原理基础上，建立机电耦合动力方程，它包含了非线性摩阻的，研究负载端非线性摩阻引起的失稳振荡现象。研究系统发生Hopf分岔的充分条件、必要条件，设计了状态反馈控制系统，并在确定控制系统的参数时采用了多尺度及谐波平衡法，将系统的Hopf分岔点转移，控制极限环的稳定性及幅值。最后，设计了轧机扭转振动测试系统，在实验平台上进行了扭振模拟及控制实验，验证了本文所研究的轧机主传动系统扭振相关理论的有效性及可行性。