作为衍射光学中的基本问题，两百多年来孔径衍射的研究从未间断。至今为止，孔径衍射仍作为探究光学中特殊现象物理机理的重要手段而备受关注。孔径的限制和衍射可实现光束能量在空间的再分布，为此通过设计孔径的形状和结构从而实现光束能量的人为控制。这也促使孔经及其衍射被广泛应用于光束整形、光束耦合和波前变换等的研究中，成为微纳器件的设计和制造的重要依据。　　光栅是空间周期分布的缝或孔结构，特殊的周期结构呈现出独特的光学特性。光栅也出现在如激光脉冲压缩、光波调制、信息编码与信息存储等各个领域，成为脉冲压缩、波前调制和频谱分析等的重要手段。光栅的泰伯效应是光栅在衍射过程中呈现的自成像现象，这一衍射光学现象被应用于阵列照明、相位锁定和光学存储中，同时也成为光束准直性测量和光波波前、温度和位移等检测的重要光学技术方法。随着研究的深入，光栅泰伯效应这一传统的衍射光学现象也扩展到了非线性光学、原子光学和量子光学等不同学科领域，有力地促进了不同学科的交叉发展。　　设计孔径结构调控衍射能量的空间分布是衍射光学器件功能设计中的首要任务，也是研究光学衍射的主要目的。在衍射研究的处理中，孔径和光栅衍射单元的边界是平滑的，然而事实上，任何制作技术很难做到这一点。实际制造的孔径和光栅的边缘往往是粗糙的。鉴于此，本论文围绕着调制边界的孔径和光栅及其菲涅耳衍射开展研究，给出调制边界定量描述，理论推导了调制边界孔径和光栅衍射的光强分布，实验测量调制边界孔径和光栅的衍射图样，探究孔径与光栅的菲涅耳衍射随调制边界的演化规律。本文的具体内容安排如下：　　第一章为本文的绪论，首先介绍标量衍射的基本理论，包括惠更斯原理、惠更斯—菲涅耳原理、基尔霍夫衍射理论、瑞利—索末菲理论、菲涅耳衍射和夫琅禾费衍射理论等标量衍射的基本理论，并就这些基本衍射理论的适用条件给出明确的界定。其次分析基于这些理论开展的孔径与光栅衍射的研究现状，提出边界随机调制的孔径与光栅衍射研究的必要性。　　第二章主要介绍边界调制的孔径与光栅的产生方法。衍射孔径的形状为圆孔和椭圆孔两种，调制边界包括正弦边界和随机边界。实验制作的孔径粗糙边界满足高斯统计分布，因此采用高斯统计模型中粗糙度w和横向相关长度ξ这两个参数来描述。而光栅的边界则采用S. K. Sinha提出的自仿射分形统计模型，当α=1时，这一模型自然退化为高斯统计模型。此时用粗糙度w、横向相关长度ξ和粗糙指数α这三个参数来描述光栅的粗糙边界。此外，借助于计算机程序模拟产生了相应的边界，从而获得了调制边界的孔径和光栅，为后面工作的开展打下基础。　　第三章从理论计算、数值模拟、实验测量上对边界调制孔径的菲涅耳衍射进行研究。理论上，根据标量衍射理论和统计光学原理推导圆孔与椭圆孔菲涅耳衍射的解析表达式。通过数值模拟给出不同边界调制参数的孔径在不同衍射距离处的衍射图样，对比平滑边界圆孔与椭圆孔的衍射，分析孔径形状和边界参数对衍射的影响。借助于空间光调制器获得孔径样品，搭建光路，完成边界调制孔径的衍射的实验测量。实验验证理论分析和数值模拟的结果。这项研究不仅有助于加深对衍射理论的理解，而且获取的特征衍射图样可促进其在光束整形和光学微操控等中的应用。　　第四章主要开展调制边界光栅的菲涅耳衍射的研究。根据第二章的原理，模拟产生调制边界光栅，数值计算了调制边界光栅的衍射光强分布，分析了光栅泰伯像随光栅边界调制参数的演化规律。为合理解释这些现象，借助于标量衍射理论和统计光学原理，对边界调制光栅的菲涅耳衍射进行了理论推导，给出了调制边界光栅的衍射光强的解析表达式。实验上借助于液晶光调制器获得光栅样品，测量了调制边界光栅在不同泰伯距离处的衍射光强，直观展示边界调制参数对光栅衍射的影响。这些结果对于评价实际光栅的衍射自成像及推广其应用研究具有一定的指导意义。　　第五章给出本文的总结，并结合目前衍射光学的研究进展，做出下一步的工作计划。