现代光学中，由强激光产生的非线性光学现象正在为越来越多的人们所注意，而材料是其发展的重要物质基础。激发态质子转移有机分子由于具有快速响应和大的非线性系数等特性，是一类性能优良的非线性光学材料，有望成为全光光开关、光限幅、光存储等光电子学器件的优选介质，近年来受到广泛关注。因此研究此类有机分子的非线性光学特性、探索其产生各种光学特性的机理以及其潜在的应用具有非常重要的意义。本文以典型的激发态分子内质子转移(ESIPT)有机分子2-(2’-羟基苯基)苯并噻唑(HBT)为研究对象，围绕其在不同极性溶剂中的光谱特性、光学非线性特性及其全光光开关效应等方面进行了系统的研究，以期揭示此类分子的光物理、光化学动态过程，并探讨其在全光光开关器件等方面应用的可能。主要工作归纳如下： 1．研究了HBT分子在环己烷、乙醇及其二者不同体积比混合溶剂中的吸收光谱和荧光光谱。结果表明在常态条件下，HBT分子烯醇式和酮式异构体可共存，但烯醇式构型占绝对优势。紫外光激发时，HBT烯醇式构型发生ESIPT反应可转变为酮式构型，但其质子转移效率受溶剂极性影响。溶剂极性越大，质子转移效率越低，在环己烷中HBT分子的ESIPT效率最大，在乙醇中则最小。用400nm波长的光激发时，除发现酮式异构体发射的荧光外，在436nm和456nm处还出现两荧光峰，分析了其具体归属，认为其一可能来源于HBT酮式异构体激发态与烯醇式异构体基态之间形成的激基复合物所发射的荧光；其二可能来源于HBT酮式异构体去质子化阴离子的发射。此荧光峰无论来源于激基复合物还是去质子化阴离子，其形成及含量均会受溶剂极性影响，极性愈大愈不利于该荧光发射物的形成。 2．用Z-扫描技术研究了线性吸收区HBT分子在环己烷、乙醇及其二者不同比例混合液中的光学非线性特性。发现溶剂极性直接影响着HBT分子的激发态质子转移效率，而且也影响着其光学非线性特性。溶剂极性越强，HBT分子的质子转移效率越低，相应的非线性折射率和三阶非线性极化率越小。在环己烷中二者值最大，分别为n<,2>=6.71×10<-13>(esu)，X<(3)>=2.14×10<-21>(m<2>/v<2>)；在乙醇中二者值最小，分别为n<,2>=3.13×10<-13>(esu)，X<(3)>=0.98×10<-21>(m<2>/V<2>)。 3.用Z-扫描技术研究了双光子吸收区HBT分子的光学非线性特性，结果表明，HBT分子对532nm波长的光存在明显的双光子吸收效应。拟合开孔Z-扫描结果，计算得到了不同入射光强下HBT分子的双光子吸收系数值，其平均双光子吸收系数β<,0>=0.56 cm/GW，与其对应的三阶非线性极化率的虚部的值为XI<(3)>=2.57×10<-21>(m<2>/V<2>)；通过拟合闭孔Z-扫描数据除以开孔Z-扫描数据，得到存在非线性吸收时给定光强下HBT分子的非线性折射率和三阶非线性极化率的实部值，分别为n<,2>=4.13×10<-18>(m<2>/W)，XR<(3)>=4.48×10<-20>(m<2>/V<2>)。同时研究了双光子吸收区HBT分子激发态质子转移过程中各态的粒子数分布情况，并建立了双光子激发分子内质子转移动力学模型。分别计算了不考虑和考虑其它各态粒子分布时，不同入射光强下HBT分子烯醇式基态的双光子吸收截面值，其相同光强下的双光子吸收截面值后者均小于前者，二者平均双光子吸收截面值分别为δ<,2p>=1735 GM和1270 GM。表明HBT分子质子转移过程中各态的粒子数分布对其双光子吸收截面值具有很大的影响。 4.研究了355 nm皮秒脉冲泵浦光激发下，HBT在环己烷、环己烷和乙醇不同比例混合以及乙醇溶剂中所表现出的光开关特性，发现HBT分子的光开关对比度和光开关偏折角大小受溶剂极性影响与其对质子转移过程的影响程度相一致，即溶剂极性越大使得其质子转移效率越低，导致其光开关对比度和光开关偏折角就越小。同时讨论了光开关脉冲信号的成因，光开关信号的陡峭下降前沿为激发态质子转移分子HBT陕速的质子转移反应所致，而相对缓慢的上升后沿则主要是由于溶剂的热效应引起。探测光束光斑直径大小直接影响着光开关信号上升后沿的恢复，减小探测光斑直径能有效抑制其"拖尾"现象。