在以波分复用(WDM)、光码分多址(OCDMA)和微波光子通信为代表的新一代光通信技术的推动下，光信号传输和处理技术得到飞速发展，对各类高速宽带光子器件的需求猛增。基于非线性光纤环镜(NOLM)的全光纤器件具有结构简单、工作速度高以及控制灵活方便等特点，将在高速宽带光子器件中占有重要地位。论文针对NOLM中存在着的高阶色散和偏振模色散(PMD)、高阶非线性效应(如交叉相位调制(XPM)、受激拉曼散射(SRs)等)以及控制光和信号光之问的各类失配等现象，以NOLM中信号传输及应用研究为主要内容，具有重要的理论和实际意义。 第一章介绍了以IP over WDM、光码分多址(OCDMA)和微波光子技术为代表的光纤通信系统的整体发展方向以及高速光网络中关键光器件技术的发展状况；系统总结了NOLM在全光信号处理、光纤导航和定位系统、光通信等领域的主要应用；并总结了包括PMD、XPM、SRS和抖动等在内的主要因素对NOLM性能影响的研究状况。 第二章基于非线性光纤光学，建立了单模光纤中考虑高阶色散和高阶非线性效应的光波传输方程，推导和建立了双耦合器NOLM中的光波传输模型和功率传输函数表达式，构建了NOLM性能分析平台，为开展NOLM性能分析和基于NOLM的光子器件设计奠定了基础。 第三章系统分析了NOLM中PMD、XPM和SRS对数字光脉冲和微波光载波传输性能的影响，充分证明这些因素将导致较大的传输损伤。 第四章探究了可能引起双耦合器NOLM中信号抖动的原因，建立了相关的分析模型，数值仿真分析了偏振失配对数字光脉冲和微波光载波、时间失配和相位失配对数字光脉冲性能的影响，并且探讨了波长漂移的影响。 第五章提出和对比分析了NOLM中PMD补偿的技术方案，提出了基于HN-FBG-NOLM高速光开关、基于DDF-NOLM的高阶孤子压缩器和基于NOLM．SSFBG的OCDMA编解码模块方案，数值分析了它们的性能以及NOLM在信号处理中的作用。 最后给出全文总结和主要创新点。