随着人们向微观纳米世界的进军，超高分辨显微成像术和超快信息光子技术得到了迅猛发展，生命科学的研究也进入一个崭新的纪元，这对成像检测技术提出了超越衍射极限分辨率的三维检测成像的高要求。现代光学显微技术不仅继承了传统光学成像技术无损伤性、信息量大等优势，还开拓了高的空间分辨和时间分辨的领域。在生物活体成像、探测特别是细胞、分子水平的研究应用中，远场空间超高分辨技术有着非常重要的作用。　　 本文将利用非线性光学技术和基于变迹术(Apodization)的光学超分辨技术，研究受激发射损耗(STED)荧光显微术和共焦双光子荧光显微术。首先阐述了超高分辨研究的现状，并从多角度对分辨率问题进行分析；从共焦系统的点扩散函数(IPSF)出发，推导出共焦双光子荧光显微系统和STED荧光显微系统的IPSF，讨论它们的特性；介绍实验室自制的共焦双光子荧光显微系统，根据参数计算出系统的横向与纵向分辨率，并从实验上证明了该系统的层析与超分辨成像效果。本文对可三维超高分辨成像的STED荧光显微术展开了全面深入的研究。　　 本论文主要取得了以下几个方面的进展：　　 1.STED荧光显微术原理分析。它是基于荧光饱和和激发态荧光受激损耗的非线性关系，通过限制发生受激发射损耗的区域，实现突破远场光学衍射极限的分辨率并实现三维超分辨成像。经分析：方法上，它是共焦单光子荧光显微术与变迹术的结合；原理上，它依赖于光学饱和跃迁和损耗的非线性。　　 2.理论分析饱和跃迁的非线性关系。分子荧光饱和跃迁和损耗的非线性源于激发态粒子布居数的变化，从粒子速率方程出发，推导得出这种非线性关系是荧光效率与STED光强成一级指数衰减关系，不同于其它的光强高次方关系。　　 3.模型修正与参数优化。从四能级系统的粒子数速率方程组出发，考虑物理过程的主线与细节，建立了描述激发态粒子时间特性的修正的模型，并模拟了主要参量与荧光损耗效率的关系。在特定系统下，优化了延迟时间、STED有效脉冲宽度，并推导拟合出光强与分辨率的函数式。　　 4.提出系统方案并模拟了系统分辨率。通过优化后，提出STED成像系统的方案，并选择合适的光瞳函数(具有中心零点的环形和单轴峰谷形)，拟合出高数值孔径物镜的IPSF，再由系统的IPSF得到系统的纵向、横向分辨率，并验证其三维层析特性。