卫星光通信以激光作为信息的载体在卫星间和卫星与地面间建立高速、迅捷的信息通道，是光通信技术在卫星应用领域的拓展，也是现代卫星通信领域的重要研究方向。随着卫星平台技术的发展特别是小卫星技术的发展，对卫星光通信系统的体积、重量和功耗提出了更严格的要求。在终端中采用衍射光学技术，可实现传统光学系统所不能实现的功能，从而极大降低终端体积、重量和功耗。目前衍射光学已经成为现代光学技术的一个重要分支，衍射光学器件及折衍射混合光学器件已经成为现代光学系统重要组成部分。从目前已发表的文献分析，以卫星光通信的应用为需求背景，进行衍射光学技术的研究还鲜有报道。本文以此为研究目标，对应用于卫星光通信系统中的衍射光学器件的设计和应用进行理论及仿真实验研究，为卫星光通信系统新技术的发展奠定基础。论文首先对当前的研究现状进行分析，包括卫星光通信的研究现状及衍射光学元件在卫星光通信中的应用。然后由麦克斯韦方程和波动方程出发，对光束衍射传播的基本理论进行了介绍，包括光束传播算法及其矢量推广、标量衍射理论和逆衍射变换等。在此基础上开展本文研究工作，其主要内容包括以下几个方面。　　1.亚波长离轴二元光学元件（DOE）的设计方法的研究卫星光通信的应用背景往往要求光学元件具有大孔径和短焦距的特点，这种要求会导致所设计DOE的特征宽度处于或小于波长量级（亚波长）。并且对光通信系统而言，也常涉及多波长和离轴聚焦的情况。亚波长DOE的设计方法仍然是当前研究的热点。本文工作是针对亚波长和离轴衍射DOE元件设计方法进行研究，包括DOE角色散及热特性的理论研究、零阶等效介质理论、DOE的优化算法等。DOE角色散及热特性理论研究是基于标量衍射理论，利用器件二元化方程分析最终得到了衍射光学元件色散特性和角色散的温度变化特性的统一理论描述。利用零阶等效介质理论可以根据几何光学所得到的初始相位，确定亚波长 DOE的轮廓初始值。瑞利-索末菲衍射理论（Rayleigh Sommerfield Diffraction，RS）是由不采取旁轴近似对标量波动方程严格解，可对大口径、短焦距和离轴衍射传播进行准确描述。因此利用RS算子迭代算法对衍射光学元件进行优化设计不必进行旁轴近似，算法的适应面更广。将矢量光束传播算法（Vectoral Beam Propagation Method，BPM）同RS衍射算子相结合可以对亚波长衍射光学元件的光学特性进行快速和准确的计算和仿真，为随机搜索优化提供了可能性。本文给出RS算子迭代算法和矢量BPM搜索算法。为了验证算法的可行性，对二元相位的亚波长DOE光束整形进行了设计。计算结果验证算法是可行的。　　2.波分复用DOE器件设计和研制为了拓展卫星光通信的数据传输容量，利用DOE实现了卫星光通信中的波分复用器件。根据本文所提出的DOE角色散特性理论确定了优化的目标值，并利用几何光学能量守恒原理计算了相位初始值，利用RS算子迭代算法设计了波分复用DOE（WDM-DOE）器件。WDM-DOE在一块纯相位的衍射光学元件上同时实现了对输入光束的波长分离和聚焦功能。研制了WDM-DOE器件，并测试了衍射光斑的色散特性。测试结果同理论设计一致。　　3.复合光路DOE设计和仿真为了降低卫星光通信终端中的光学系统结构复杂性，并简化系统调节难度，本文提出一种将终端信标光路和信号光路进行整合的DOE器件。器件将信标光波长光束聚焦为环状光斑用作四象限探测接收，将信号光波长光束聚焦为点状光斑用作APD接收。器件同时将信标光路和信号光路进行整合的同时提高了光束的能量利用率。对器件在不同角度光束入射下的衍射效果进行了仿真，仿真结果表明器件在不同角度入射下衍射光斑无形变，适于卫星光通信应用。　　4.Λ形光斑角探测技术研究卫星光通信中，采用瞄准捕获跟踪系统进行链路的建立和保持是通信实现的先决条件，角度探测的精度和速度是链路建立保持系统的关键指标。为了提高角探测的速度，本文提出Λ形光斑角探测技术，并给出此种机制下的一维改进质心算法和实现聚焦Λ形光斑的DOE器件。此种角度探测机制利用DOE将输入激光束聚焦为Λ形光斑，并采用一维线阵CCD对二维角度偏转进行了探测。利用Λ形光斑角探测技术，在不损失探测精度的条件下，可以将卫星光通信终端角度探测算法的执行时间降为传统的1/170，硬件传输速度提高为传统的585倍。　　本文的工作将推动卫星光通信系统中新型光学系统的设计和应用。针对于卫星光通信系统应用背景的衍射光学元件和技术的开发将对卫星光通信技术的发展奠定基础。