随着社会对信息容量需求的日益增加,作为骨干传输网络的光纤通信系统也面临着诸多挑战.其中由于信道传输速率的增加和调制方式的多样化,传统的电子信号处理方式在超高速系统中面临着速度瓶颈,因此,全光信号处理或者结合光电各自优势的信号处理技术成为发展的必然趋势.光信号处理技术可以基于不同的非线性器件和不同的物理机理.主要的器件除了(非线性)光纤以外,还包括了半导体光放大器(SOA)、周期性极化铌酸锂(PPLN)以及硅基波导等.相关的非线性效应主要包括了自相位调制(SPM)、交叉相位调制(XPM)、四波混频(FWM)、交叉增益调制(XGM)、级联倍频与差频(cSHG/DFG),级联和频与差频(cSFG/DFG)等等.基于光纤的解决方案可以方便地与现有光纤网络直接互联与融合,而且成本相对较低.尽管很多新型光纤如光子晶体光纤(PCF)、掺氧化铋高非线性光纤(Bi-HNLF)等在光信息处理中都显示出较大的潜力,但实际中最常用的还是基于硅结构的HNLF,其非线性系数可以达到10-30 (W·km)-1.在过去的十年中,人们利用这些非线性介质中的各种非线性效应,在越来越快的传输速度下,成功实现了波长转换、信号再生、多点传送、复用以及波长交换等网络功能.本文在对当前基于光纤非线性实现的各种光信号处理进行总结的基础上,着重围绕目前大容量光纤通信系统与网络常用的偏振复用系统中的光信号处理进行讨论.与普通单一偏振态的信号传输不同,偏振复用系统中的光信号处理需要能够同时对两个相互(偏振态)正交的信道进行处理,以降低成本和提高效率,因此,具有较大的挑战性.我们基于所提出的一种偏振环镜结构满足了这一要求,进而实现了传输网络中的全光再生、波长变换、码型变换等功能.随着网络速度的提高(＞Tb/s),我们面临着更多的挑战,如何结合各种光信号处理甚至电信号处理技术的优势实现网络透明化,将是未来研究的热点和难点之一.