当下的长距离光纤通信系统的传输容量和传输距离主要受到放大器的噪声和光纤非线性的限制。常见的相位非敏感放大器(phase-insensitive amplifier,PIA),如掺铒光纤放大器(EDFA),噪声指数的量子极限为3dB,这将导致信号功率被放大的同时其信噪比至少减小3dB。基于四波混频(four-wave mixing,FWM)的相位敏感放大器(phase sensitive amplifier,PSA)噪声指数能够实现0dB,即实现无噪声放大,这使得PSA在光纤通信领域具有重要的应用前景。但PSA应用于密集波分复用系统时,信道间非线性串扰与增益正相关,这严重限制了PSA的实际应用。混合PSA-EDFA可以降低非线性串扰,实现高增益、低噪声、低串扰光放大的可行方案。混合PSA-EDFA的总体性能与PSA增益、噪声指数等密切相关,合理选择系统参数可以实现总体性能的优化。然而目前针对混合PSA-EDFA的研究甚少。本论文围绕混合PSA-EDFA的总体噪声性展开理论与实验研究,全文的主要研究内容和结果包括:(1)系统地分析了相位敏感放大的理论原理。从耦合波方程出发,推导了四波混频和参量放大的理论模型,采用传输矩阵分析方法得到了PSA的理论模型,分析了PSA的噪声特性;同时还分析了级联光放大器的噪声理论。(2)实验上研究了Copier-PSA结构相位敏感放大器的噪声特性。通过基于高非线性光纤的参量放大过程实现PSA的增益,并利用一种光锁相环结构维持PSA性能的稳定性,获得了23.6dB的PSA增益。相同的泵浦功率下,获得的PSA增益相比于相位非敏感的参量放大增益高5.6dB;在相同信号增益下,相比于相位非敏感的参量放大的情况,经PSA放大后的信号光信噪比高4.8dB。(3)从理论和实验上研究了混合PSA-EDFA的的噪声特性。理论分析得出,混合PSA-EDFA的噪声指数特性与PSA增益密切相关,合理配置混合光放大系统中的PSA增益,可以得到高增益低噪声的光放大。实验上采用光谱测量和电谱测量两种方法对混合PSA-EDFA的噪声特性进行了研究,发现了混合PSA-EDFA总体噪声指数随PSA增益的增加而快速降低的规律,并且较低的PSA增益(<10dB)可使总体噪声指数得到大幅下降。实验上测得,总增益为45.6dB的情况下,PSA增益为9dB时系统总体噪声指数下降至2.9dB,低于传统光放大的噪声指数极限。