瑞利-泰勒不稳定既在自然界中广泛存在，也存在于惯性约束聚变过程中，因此研究瑞利-泰勒不稳定性对理解各种自然现象和指导实际应用有着重要意义。本论文针对旋转角速度与界面加速度方向垂直的旋转流体中的瑞利-泰勒不稳定性及其导致的流体混合过程作了数值研究。　　首先本文根据旋转瑞利-泰勒不稳定性的三阶弱非线性理论分析了高阶项是如何作用于基模使得扰动界面发生变化的。阿特伍德数越大，高阶项越有利于气泡-尖钉状结构的形成;阿特伍德数越小，高阶项越阻碍气泡-尖钉状结构的形成。旋转对界面的影响体现在越强的旋转所导致的科里奥利力越倾向于使扰动界面上下对称，从而不利于气泡-尖钉状结构的形成。旋转还使扰动从驻波变成了行波，旋转越强，行波波速越大。　　接着本文对旋转瑞利-泰勒不稳定性及其导致的混合做了数值研究。数值研究分为三部分进行:线性阶段的数值模拟，弱非线性阶段的数值模拟，混合过程的数值模拟。　　第一、对旋转瑞利-泰勒不稳定性线性阶段进行了数值模拟。通过模拟验证了线性阶段初始扰动形式与扰动幅值增长之间的关系，界面型、速度型和复合型初始扰动的幅值增长与时间分别呈双曲余弦、双曲正弦和指数关系。在扰动随时间发展一段时间后，三种扰动形式的增长率趋于一致。对复合型初始扰动发展的扰动幅值和增长率来说，流体不同旋转角速度和不同阿特伍德数时的模拟结果均与线性理论结果呈现出较好的一致性。另外还验证了旋转瑞利-泰勒不稳定性理论预言的行波波速，检验了旋转瑞利-泰勒不稳定性线性理论的正确性。　　第二、对旋转瑞利-泰勒不稳定性弱非线性阶段进行了数值模拟。通过数值模拟，首先数值验证了弱非线性旋转瑞利-泰勒不稳定性扰动幅值和增长率表达式的正确性，验证了科里奥利力对瑞利-泰勒不稳定性的压制作用。其次通过数值模拟直观地展示了瑞利-泰勒不稳定性在线性和弱非线性阶段界面随时间演化的情况，在线性阶段，界面呈现出上下对称的初始谐波状态，之后在原来谐波的基础上相继被激发出的高次谐波产生的非线性作用逐渐开始体现出来，扰动由上下相似的谐波形状向气泡-尖钉状结构变形。　　第三、对由瑞利-泰勒不稳定性所导致的两种流体的混合过程进行了数值模拟。具体地分三部分进行了数值模拟。首先数值模拟了旋转带来的科里奥利力对混合的影响，结果发现旋转对蘑菇-尖钉状结构的形成以及其后的混合阶段具有抑制作用;并且旋转对下边界的抑制作用要明显强于对上边界的抑制作用。其次针对理想流体，对旋转带来的科里奥利力和离心力的影响进行了数值模拟，结果发现加速阶段和减速阶段旋转对混合分别有增强和压制作用。结果还显示了瑞利-泰勒不稳定性在发展过程中，气泡会经历一段匀速进入重流体的阶段，尖钉会经历一段匀加速进入轻流体的阶段。界面表面的加速度越大，气泡的速度和尖钉的加速度越大;界面表面的加速度越小，气泡的速度和尖钉的加速度越小。最后数值模拟了科里奥利力和离心力对有粘有表面张力的真实流体中瑞利-泰勒不稳定性所导致的混合的影响。结果发现，旋转流体系统中粘性和表面张力对瑞利-泰勒不稳定性的发展和混合有抑制作用，粘性和表面张力越大，旋转流体界面处的混合区域宽度越窄，混合越不易均匀。同时，在粘性流体中，旋转在加速阶段增强瑞利-泰勒不稳定性，在减速阶段压制瑞利-泰勒不稳定性。以上三种情况都展示了减速阶段旋转对混合的均匀程度有抑制作用，旋转越强，越不容易混合均匀。　　本工作的模拟结果检验了旋转瑞利-泰勒不稳定性的线性和弱非线性理论，进一步地研究了旋转对气泡和尖钉状结构演化和其后混合过程的影响，以求为瑞利-泰勒不稳定性混合过程的控制提供参考依据。