微波光子技术,特别是射频光纤传输(RoF,Radio-over-fiber)技术,主要应用于宽带无线通信、雷达、电子对抗、有线电视等领域。用户对高速率信息传输需求的不断提高,要求微波光子系统向着高信号带宽、大频率覆盖范围、高动态范围等方向发展。光下变频技术是宽带大动态范围微波光子系统中的关键技术之一。对光下变频系统来说,上述发展趋势要求进一步提高光下变频的无失真动态范围(SFDR)、提高变频效率、降低噪声系数和提高系统带宽。本文中工作重点在于提高光下变频系统的SFDR性能和降低噪声系数。　　本文首先介绍光下变频系统在国内外的研究现状,特别是提升系统SFDR性能的关键技术如线性调制技术、噪声抑制技术等分析对比了级联MZM结构光下变频系统和并联MZM结构光下变频系统的性能。对光下变频系统的变频效率、噪声系数和无失真动态范围(SFDR)进行了理论分析及仿真。仿真结果显示,在相同的器件工作条件(激光器功率、调制器型号及工作状态、光电检测器响应度)下,并联MZM结构的SFDR比级联MZM结构的高10dB。　　SFDR作为衡量下变频系统性能的综合性指标,其提高途径有三种:降低系统非线性失真、降低系统噪声、提高变频效率。本文中通过并行MZM结构实现非线性失真抑制,采用相位正交、偏振正交、独立路径、不同波长四种方式抑制信号路与补偿路相互干扰,从MZM的理论模型分析得到三阶交调抑制条件,并进行了工作条件优化。实验通过对光载波进行8∶1分光得到两路光载波,各自调制幅度比为1∶2的RF信号,将调制RF信号产生的等幅反相的三阶交调信号相互抵消。实验证明此方案可以将三阶交调抑制至电谱仪测量噪声本底(-166dBm/Hz)以下,此时SFDR仅受限于五阶交调。实验实现将马赫曾德尔调制器的SFDR由三阶交调抑制前的104dB·Hz2/3提高至三阶交调抑制后的118dB·Hz4/5。　　本文通过双输出MZM级联平衡检测器结构实现共模噪声抑制。对系统噪声组成进行了分析得到激光器相对强度噪声(RIN)和调制器前的掺铒光纤放大器(EDFA)的自发辐射噪声(ASE)属于共模噪声,并以调制器前的EDFA的ASE噪声作为典型共模噪声进行噪声抑制实验。实验结果显示调制器前的EDFA引入的共模噪声被抑制了20dB,在保留调制信号的同时大幅度降低了噪声本底水平。　　本文工作中的非线性失真抑制方案和噪声抑制方案为光下变频系统SFDR性能提高提供了有效途径。