光纤作为光的产生、传输和探测媒介在激光、通信和传感领域发挥着重要作用。随着高功率激光、高速率光通信和生物光子学的研究兴起，新型特种光纤的设计和研制正成为技术突破的关键点。近年来，国际上兴起的反谐振光纤(Anti-resonant fiber,ARF)因具有全新的导光机制、极大的设计自由度和简单的结构而成为光纤光学领域的研究热点。与光子带隙光纤、Kagomé光纤和大模场直径光纤相比，反谐振光纤具有宽传输带宽、低损耗和单模导光等优良特性，可以用于紫外/红外光传输、高功率激光、非线性光学及传感等领域。本论文主要面向短距离低延迟光通信、高功率激光器及生物传感方面的应用，设计并仿真了三种反谐振光纤:空芯反谐振光纤、全固态反谐振光纤和液体填充的反谐振光纤，其中对液体填充的反谐振光纤还进行了实验验证，并通过探测液体的拉曼光谱展示了其在生物传感领域的应用前景。主要研究内容如下:　　1.目前国际上反谐振光纤的导光原理和解析模型仍处在逐步完善的过程中。总结了反谐振反射理论、泄露模理论和近期提出的半解析模型等理论，对光纤结构与导光特性间的关系建立了较清晰的概念。另一方面，新光纤的设计与优化需要借助仿真手段，通过已验证准确性的改进的有限元法，可以有效获得光纤的模式、限制损耗、散射损耗、弯曲损耗、吸收损耗及色散等特性。　　2.空芯反谐振光纤可以为光的传输提供比石英光纤更快的传输速度，比空芯带隙光纤更宽的传输带宽和更高的损伤阈值，今后有望在数据中心、云计算等短距离低延迟高速光通信中找到应用，同时也是高功率超快激光传输和压缩的新技术宠儿，然而目前空芯反谐振光纤的弯曲损耗较大，限制了其应用。基于实验上拉制出的空芯反谐振光纤，利用仿真方法研究了弯曲损耗，发现包层孔的大小是弯曲损耗的主要决定因素，通过实验和理论验证了这一结论，给出光纤弯曲时的包层孔优化方案，并提出一种包层不对称的偏芯结构来降低弯曲损耗。　　3.全固态反谐振光纤因同时具备大模场直径和单模传输的优点，有望为高功率激光的产生提供新思路。利用反谐振导光机制中折射率差这个可调参数，设计了双反谐振层的全固态反谐振光纤，纤芯40μm时，仿真得到波长1-2μm处可被忽略的极低的限制损耗(＜0.1dB/km)，并且单模导光，在弯曲半径20cm时，长波长处仍保持～1dB/km的低弯曲损耗。　　4.低折射率液体填充的空芯反谐振光纤也可以实现反谐振导光，是一种很好的液体传光和检测平台。利用一维平面波导模型理论预测了反谐振光纤中低折射率差导光的可行性。实验上填充低折射率的匹配液得到300-1550nm的单模宽传输谱，并通过填充4μL酒精，在8mW的532nm连续光泵浦时就得到酒精拉曼光谱，表明液体反谐振光纤可以用于高灵敏生物传感等领域。