量子保密通信是一种绝对安全的密钥分配技术，其安全性以量子力学的测不准原理和不可克隆原理为依据。1984年，Bennett和Brassard提出了第一个量子密钥分配协议。该协议约定通信双方Alice和Bob在两个共轭基中随机地选择一个来编译信息，每个共轭基都包括两个正交态，分别代表二进制的“0”和“1”。当Eve或Bob的测量基与Alice编码信息的基不一致时，Eve或Bob的测量结果是不确定的。这种特性使得Eve在试图窃取信息的同时，也增加了系统的误码率，其窃听行为因而被发现了。第一个密钥分配协议提出后，量子保密通信引起了科学家们的高度重视。 常用于承载量子信息的物理量有光子的偏振态、相位、频率等，近年来光子的另外一个自由度，即轨道角动量，受到了人们的高度重视，并在众多领域得到了广泛的研究和应用。本论文研究了轨道角动量在量子保密通信中的应用，从拉盖尔-高斯光束的基本特性出发，详细讨论了轨道角动量筛选器的工作原理，提出了基于轨道角动量的密码通信方案，以及基于轨道角动量的量子网络方案。本论文的主要工作如下： (1)概述了拉盖尔-高斯光束的基本性质，论证了拉盖尔-高斯模为轨道角动量的本征态，用矩阵的方法讨论了光束旋转器对拉盖尔-高斯光束的作用，并分析了轨道角动量筛选器的工作过程。 (2)在正交态编码协议的基础上，设计了一个利用光子轨道角动量态进行保密通信的实验方案。从截获重发、单臂攻击等窃听方式出发，讨论了该方案的安全性，并从理论上分析了该方案的优点。 (3)设计了一个基于轨道角动量态的量子网络方案。基于该网络方案，详细地分析了一个四用户的通信网络的实现过程，该方案对在自由空间量子密钥分配的应用极具吸引力。