980nm光纤激光器由于具有光光转换效率高、结构简单、体积小巧、散热效果好等优点，可以作为掺镱掺铒光纤激光器和放大器的泵浦源，在光通信及倍频产生蓝绿光等领域具有重要应用，具有很高的研究价值。虽然980nm单模光纤激光器具有非常好的光束质量，但是其纤芯细，很难提高泵浦光的耦合效率;并且在高功率情况下容易产生非线性效应，引起光纤端面的损伤。而掺镱光子晶体光纤的出现在一定程度上解决了这一问题。　　本文对980nm光子晶体光纤调Q和锁模激光器进行了理论和实验研究，主要工作包括以下几个方面:　　第一部分通过国内外文献调研，确定采用光子晶体光纤和半导体可饱和吸收镜(SESAM)及拓扑绝缘体进行980nm激光的调Q和锁模研究，对980nm掺镱光子晶体光纤激光器中存在的四能级起振和重吸收效应进行了分析，理论推导了激光器在双端输出方式下的激光输出功率、斜效率、阈值功率及光纤最佳长度的表达式，提出了利用设计光纤长度的方法有效地抑制四能级起振和防止过多的980nm激光重吸收;对锁模光纤激光器的锁模机理和几种可饱和吸收体的参数特性进行了阐述;对980nm光子晶体光纤锁模激光器进行了软件模拟，分析光纤长度对980nm激光起振和形成稳定锁模的影响，为后面的实验研究奠定基础。　　第二部分开展了980nm光子晶体光纤SESAM锁模实验研究。设计了两种锁模方案，两个方案中泵浦源和光纤长度都有所不同，通过控制光纤长度和使用二色镜的方法增加四能级系统的损耗，抑制了1030nm波段激光的起振。两个实验中980nm激光都经历了连续光、调Q、调Q锁模三种状态，但都没有出现稳定的连续锁模现象，分析原因认为与两个实验的腔型结构、SESAM参数及腔内能量等方面有关。　　第三部分开展了基于SESAM锁模的1μm以上的掺镱光子晶体光纤激光器的研究。激光器工作在全正色散域获得了最高输出150mW，脉冲宽度为3.3 ps，重复频率高达93.33MHz的稳定锁模脉冲激光输出，中心波长为1027nm，3 dB线宽为1 nm，激光器锁模稳定可靠，可连续稳定工作2小时以上。在不同实验条件中，观察到调Q锁模和脉冲分裂现象，并分别给出了分析和解释。实验帮助我们更深入地理解腔型结构和SESAM的性能。　　第四部分对新型可饱和吸收体——拓扑绝缘体进行了研究，首次实现了基于反射式碲化铋材料的977nm光子晶体光纤被动调Q激光器，最大功率为54mW，重复频率170kHz左右，脉冲宽度从0.74μs到1.64μs变化，证明了拓扑绝缘体在980nm波段同样具有可饱和吸收性，在超快光学方面具有非常大的潜力。