随着大数据、物联网以及云计算等技术的迅猛发展,数据流量快速增长,短距离数据中心光互联网络面临着严峻的扩容压力。与强度调制/直接检测的系统相比,相干光通信传输系统凭借频谱效率高、接收灵敏度高等优点,为数据中心光互联提供了可行的扩容方案。然而,相干光通信系统由于其高成本、高功耗等特点,很难直接应用于成本和功耗敏感的短距离传输系统中。为降低相干光通信系统成本,一方面,可以采用低成本的电吸收调制激光器（EML）来替代相干系统中常用的价格高昂的窄线宽激光器（百kHz量级）。但是,低成本的EML线宽较大（MHz量级）,导致信号受到严重的相位噪声影响。另一方面,可以采用低成本低功耗的小型光电器件来降低系统的成本与功耗,通过提升调制格式的阶数来降低小型光电器件带宽的限制。但随着调制格式阶数的增加,信号对相位噪声更加敏感。因此,针对短距离相干光通信系统,本论文对具有高线宽容忍度的载波相位恢复算法和适用于高阶调制格式的低复杂度载波相位恢复算法进行了深入地研究。具体研究内容如下:（1）针对低成本大线宽的相干光通信系统,提出了基于数据辅助的无迹卡尔曼滤波器（UKF）的载波相位恢复算法。采用数据辅助估计的相位噪声作为UKF估计的初始值,利用基于UKF的载波相位恢复算法完成相位噪声的估计。该方案提高了 UKF算法的收敛速度,消除了由累积相位噪声导致的跳周现象,阻止了误码传播。论文通过搭建56 GBaud的双偏振16QAM的相干光通信系统传输20 km的标准单模光纤,对所提算法性能进行了研究。研究结果表明,基于数据辅助的UKF算法具有良好的相位噪声追踪能力。在满足7%前向纠错门限,容忍1 dB光信噪比代价的情况下,所提算法的线宽容忍度为6.44MHz,优于基于扩展的卡尔曼滤波器的载波相位恢复算法和无数据辅助的UKF的载波相位恢复算法。（2）针对高阶调制格式的相干光通信系统,对UKF的观测方程进行修正,提出了改进的基于UKF的载波相位恢复算法。针对基于半径的观测方程在高阶调制格式中部分信号不适用的问题,提出基于星座点的观测方程,使UKF算法适用于高阶调制格式的载波相位恢复。本文通过搭建28 GBaud双偏振16QAM和64QAM的相干光通信系统,对所提算法性能进行研究。研究结果表明,所提算法在与盲相位搜索算法的性能保持一致的情况下具有更低的计算复杂度,计算复杂度降低了61%。综上所述,本论文针对相干光通信系统应用到短距离数据中心光互联所面临的线宽容忍度限制和复杂度高的问题,提出了高线宽容忍度的基于数据辅助的UKF的载波相位恢复算法和低复杂度的改进的基于UKF的载波相位恢复算法,并通过仿真验证了算法的有效性。研究结果为短距离相干光通信系统中的载波相位恢复算法提供了可行方案。