瑞利散射型分布式光纤传感由于其响应速度快、灵敏度高、传感距离长等优点成为了近年来的研究热点,已经初步应用到地震波监测、地质勘探、智能交通、大型结构健康监测等领域。常见的瑞利散射型分布式光纤传感有:适用于动态应变传感的相位敏感型光时域反射计（phase-sensitive optical time domain reflectometry,Φ-OTDR）、可用于动静态温度和应变传感的相干光时域反射计（coherent OTDR,COTDR）和光频域反射计（optical frequency domain reflectometry,OFDR）。目前基于瑞利散射的分布式光纤传感系统各项性能参数之间相互耦合,且频率响应带宽、空间分辨率、测量范围等性能参数受限于传统电学设备的电子瓶颈,使得传感系统的综合性能提升存在巨大的挑战。为此,本论文对传感系统的频率响应带宽、最小可测应变、测量摆率等性能指标的限制因素进行了系统性分析,并以此为指导,分别提出了正负频复用、脉冲压缩COTDR、频域子啁啾脉冲提取算法（sub-chirped-pulse extraction algorithm,SPEA）、时域SPEA等技术。以啁啾脉冲的时域压缩为基础实现了传感系统的频率响应带宽、传感距离、最小可测应变、测量摆率等参数的提升;以啁啾信号的频谱压缩为基础,突破了接收机带宽对COTDR传感系统空间分辨率和测量范围的限制。本文具体的研究内容如下:（1）针对相位解调Φ-OTDR频率响应带宽与传感距离、接收机带宽之间的相互限制,提出正负频复用来提升系统频谱利用率,从而在不牺牲其他参数和不增加接收机带宽的前提下,实现频率响应带宽的提升。从信号处理的基础理论出发,推导了正负频复用实现的原理,阐明了如何使用负频带资源来倍增传感系统的最大可用带宽。提出将数字幅度预失真引入到单边带调制中,提升了调制信号的有效输出功率和边带抑制比,为高性能的正负频复用奠定了基础。从理论和实验上证明了正负频复用不会对传感系统信噪比造成影响。最后,利用正负频复用良好的兼容性,结合时域脉冲压缩技术、分布式拉曼放大技术和频分复用技术,在103 km的光纤上实现了频率响应带宽为10.8 k Hz的动态应变传感。相比于传统Φ-OTDR,频率响应带宽的提升超过了20倍。（2）针对传统COTDR传感系统空间分辨率与最小可测应变相互限制以及频率响应带宽低的问题,提出了时域脉冲压缩COTDR,可以在不牺牲空间分辨率的前提下,减小最小可测应变;提出了频域SPEA,克服了COTDR传感系统频率响应带宽低的缺点。通过计算无偏估计量方差下限的方法,推导出了相干探测瑞利散射图样解调COTDR可测应变的克拉米-罗下界（Cramér-Rao Lower Bound,CRLB）,并以此为指导,提出使用时域脉冲压缩技术来突破瑞利散射图样解调COTDR空间分辨率与最小可测应变之间的相互限制。针对COTDR传感系统需要多次扫频来获取完整瑞利散射图样导致频率响应带宽低的问题,通过对散射信号的频域特性分析,提出了基于频域SPEA的COTDR传感系统,实现了瑞利散射图样的一次性获取,从而在原理上可将系统的频率响应带宽提升两个数量级以上,并在实验上实现了237倍的提升。最后,充分探索了系统在动态应变传感、低频响应、抗噪声性能、长距离传感等方面能力,展示出了相比于与传统相位解调Φ-OTDR、单频脉冲COTDR传感系统、啁啾脉冲Φ-OTDR等系统的明显优势。（3）针对基于COTDR传感系统空间分辨率和测量范围受限于接收机带宽的问题,提出时域SPEA,并与去啁啾技术相结合,极大地降低了传感系统对接收机带宽的需求。利用去啁啾技术的频谱压缩特性,将大带宽瑞利散射信号压缩为小带宽接收信号;并通过对该信号时频特征分析,提出了时域SPEA,实现了大频率范围瑞利散射图样的获取,从而实现了高空间分辨率、大测量范围的应变传感。静态应变传感实验表明此方法与OFDR传统解调方法相比明显地减小了粗大误差。在920 m的瑞利增强光纤上实现了60με的测量范围和28.4 cm空间分辨率的动态应变传感,最小可测应变为80.7 pε/（?）。与基于瑞利散射图样的COTDR相比,在相同的空间分辨率和测量范围的性能下,接收机带宽的需求减小了约9倍。综上所述,本论文聚焦于瑞利散射型分布式光纤传感综合性能的提升,通过分析关键性能指标的主要限制因素,提出相应的提升方法,为瑞利散射型分布式光纤传感的性能极限探索提供了新思路。