对光纤通信而言,超高速度、超大容量和超长距离传输一直是人们追求的目标。光纤的损耗和色散成为实现该目标的障碍。掺铒光纤放大器(EDFA)的出现,从根本上解决了光纤通信系统中的光纤损耗问题,但它不具有色散补偿的功能。而相敏光放大器(PSA)由于光增益的相敏特性,不仅能够放大光脉冲的能量,而且还具有相位滤波功能,即能够抑制光脉冲的展宽。随着系统传输速率的不断提高,偏振模色散(PMD)的影响越来越严重,它已成为限制高速光通信发展的主要因素之一。本文采用分步傅里叶方法,通过求解非线性薛定谔方程,仿真研究高速光纤通信系统中EDFA和PSA对PMD的补偿效果。论文首先介绍了偏振模色散对高速光纤通信系统的影响,比较了EDFA和PSA的特性,给出了EDFA和PSA的系统仿真模型。通过计算机系统仿真,研究高速光纤通信系统中分别采用EDFA和PSA作为在线放大器,在考虑群速度色散(GVD)、高阶色散、PMD、低阶非线性效应的因素下,重点比较研究不同的信号传输速率、光脉冲形状、脉冲啁啾、脉冲占空比、脉冲功率、放大器间距、放大器增益和偏振模色散情况下,EDFA和PSA对PMD的补偿效果。研究结果表明,在系统速率比较低的时候,EDFA和PSA系统性能相差不大,但是当在高速率情况下,PSA系统性能优于EDFA系统性能;而且在不同的EDFA和PSA系统仿真参数下,系统的传输性能也不相同,合理配置系统参数有助于系统性能的提高;在相同的参数条件下,PSA系统性能要好于EDFA系统性能。总之,在高速光纤通信系统中,PSA能够在一定程度上补偿光纤通信系统中的偏振模色散,提高光纤传输系统的性能。通过对PSA应用于高速光纤通信系统性能的研究,本文对于PSA在光纤通信系统中实际应用具有一定的参考价值。