激发态质子转移（ESPT）有机分子是一类性能优良的非线性光学材料，有望成为光限幅、光开关、光信息存储等光电器件的材料而受到广泛关注。本文研究了3-羟基黄酮（3-HF）和2-（2-羟基苯基）苯并咪唑（HBI）两种典型的ESPT有机分子的光谱特性及光学非线性效应，为其实际应用提供实验及理论依据。本文主要工作如下：　　 1.研究了3-HF和HBI两种分子在不同极性溶液中的光谱特性。结果表明，在常态下，3-HF和HBI均主要以稀醇式构型存在，并同时存在少量的异构体，其质子转移效率与溶剂极性有关，随着溶剂极性的减弱，质子转移效率增大。　　 2.研究了3-HF在不同酸碱性溶液中的的光谱特性。用415nm光激发3-HF时，发现了三个荧光峰，其归宿至今未见报道。通过改变溶液的pH值，测量和分析吸收光谱和荧光光谱的变化，指认出峰值位于短波方向的两个荧光谱带为3-HF的两种阳离子所发射，长波方向峰值位于515nm的荧光谱带为3-HF的阴离子所发射。　　 3.用z扫描技术研究了不同极性的3-HF溶液和HBI溶液在1064nm激光激发下的光学非线性效应。发现不同极性溶剂对3-HF的非线性折射率影响不大，而HBI的非线性折射率随溶剂极性的减弱而增大。　　 4.在532nm的激光激发下，用z扫描的方法测量HBI在不同极性溶液中的光学非线性效应。结果表明，HBI的甲苯溶液没有非线性吸收效应，而其极性溶液中存在非线性吸收，说明是溶剂化物产生了非线性吸收效应。根据开孔z扫描数据拟合结果，证明该非线性吸收为双光子吸收（TPA）。