随着互联网和多媒体业务的快速发展,人们对于宽带通信的需求不断提升,如何提高通信容量成为国内外研究热点。现有提高通信容量主要有波分复用技术(WDM)和光时分复用技术(OTDM)。OTDM技术通过提高单波长传输速率,有效提升频谱利用率,与DWDM技术相结合是未来高速光通信网络的研究热点之一。在OTDM系统中,影响系统性能的因素主要有损耗,色散和非线性。随着90年代掺铒光纤放大器的问世及光纤色散补偿技术的逐步成熟,损耗和色散对于系统性能的影响得到了很好的解决。在OTDM传输系统中,随着比特速率的上升,与脉冲间隔以及输入功率密切相关的带内非线性光学效应逐渐成为限制OTDM传输系统发展的研究热点。基于非线性光学原理的光器件正不断地问世与普及,如布里渊光纤激光器等,其在光通信网络中的应用得到了广泛的研究,成为国际通信领域研究的热点。本论文项目组承担的国家863项目“160Gbit/s一泵多纤光传输技术的研究”,对非线性光学效应展开如下几方面的分析研究：1.探讨非线性克尔(Kerr)效应的产生机理。非线性克尔效应本质为光纤介质折射率与入射光强的相互影响,表现为附加相位的引入、频谱的展宽甚至造成串扰新频率的产生。非线性克尔现象可以分为带间非线性效应与带内非线性效应。带内非线性效应源于同一信道中不同信号脉冲间相互作用,具体细分为带内交叉相位调制(IXPM)与带内四波混频(IFWM)。通过分析,IXPM在时域上引入了时间抖动,IFWM在时域上带来了脉冲幅度抖动以及产生影子脉冲。对于本项目需要实现单信道传输160Gbit/s、100km传输距离的传输系统,选择合适抑制方案来削弱带内非线性效应所引起的系统性能下降十分必要。2.为了抑制带内交叉相位调制以及带内四波混频,本论文分析了抑制带内非线性效应的主要方法,并结合现有实验条件,采用高色散管理技术抑制160Gbit/s、RZ码、100km OTDM光传输系统中的带内非线性效应。最终通过分析实验证明了高色散管理抑制带内非线性方案的可行性。3.分析非线性光学弹性效应中受激布里渊散射的产生原理。总结了基于受激布里渊散射光纤激光器的结构以及相关理论。同时根据后向斯托克斯光波的频移特征,并结合本项目的要求,提出一种基于受激布里渊散射形成稳定激光输出的方案,并对布里渊激光器进行分析研究；利用该光纤布里渊散射激光器输出作为控制信号,用于实现高速光时分复用系统中低成本的解复用以及时钟提取。