自上世纪初X射线被发现以来,它就以其在生物、物理、化学和医学上的巨大用途而受到广泛的关注,人们通过各种方法来产生X射线并提高它的亮度。2009年LCLS第一次产生硬X射线自由电子激光(XFEL)标志着人类进入了 X射线激光时代。LCLS的巨大成功激励着世界各国争前恐后的建设自己的X射线FEL装置。LCLS采用的自放大自发辐射(SASE)的运行模拟,它起源于电子束的噪声。其输出具有很好的横向相干性,但其纵向相干性和稳定性较差,如何提高SASE输出的性能一直是FEL研究的重要问题。本论文中主要研究的X射线FEL振荡器(XFELO)就是解决这个问题的重要方案之一,它可以输出峰值亮度与SASE可比、全相干、稳定的硬X射线。由于XFELO对试验条件要求较高,目前它还没有得到实验的验证。XFELO涉及到X射线的Bragg衍射、X射线在谐振腔内的传播和饱和区的FEL物理,其物理过程相对高增益FEL更为复杂,难以从理论上得到完整的解析。现在世界上流行的方法是利用数值模拟来分析,本文我们从理论分析和数值模拟角度对XFELO进行的研究。在理论分析上,本文建立了一个一维的XFELO模型,通过将高增益FEL中的电子束相空间分布函数引入低增益,可以通过解微分方程的方法理论上得到振荡器在饱和区的FEL增益。该方法将模拟时间由数星期降到了几分钟。在数值模拟上,我们利用X射线Bragg衍射的动力学理论,开发了首个可以进行三维X射线Bragg衍射的程序。该程序可以与Genesis和OPC紧密结合,实现XFELO的三维数值模拟。由于考虑到了三维光场的相位分布,该程序的出现将有利于对XFELO光学谐振腔稳定性的模拟,得到更加真实可信的模拟结果。利用该系列模拟软件的结合,我们对基于上海相干光源的XFELO进行了系统的优化与设计,该方案和设计流程对世界上其他FEL装置上的XFELO设计具有参考价值。为了提高XFELO的性能,充分挖掘其性能,本文试图将高增益FEL中已经相对成熟的技术和概念引进低增益FEL振荡器中。由于XFELO工作在FEL的低增益区间,电子束单次提供的增益较小。为了提高其电子束能量利用率,得到更强的FEL功率输出,我们提出了级联型XFELO和XFELO驱动的高亮度FEL方案。级联型XFELO通过在波荡器间插入电子束延迟装置,利用电子束不同部分在不同波荡器中发光,实现FEL的级联放大。其输出的X脉冲峰值功率和装置的整体效率都比传统XFELO方案有了明显的提升。XFELO驱动的高亮度FEL则是利用带有能量啁啾的电子束,实现在XFELO内及后加的FEL放大器内的分部分发光、级联放大,最后可以实现TW量级峰值功率的输出。