波前传感器是自适应光学望远镜系统的重要组成部分,利用从观测目标本身或其附近的自然亮星或激光导星的光探测光路中的动态波前误差,除了太阳自适应光学系统外,波前传感器多工作在弱光环境下,在有限的的子孔径尺寸和很短的测量时间内接收到可用于波前探测的光能量十分有限,提高波前传感器能量利用率就成为波前传感器的发展目标。随着望远镜口径越来越大,要求波前传感器的空间采样率也要越来越高,现有夏克-哈特曼波前传感器(HSWFS)无论在弱光探测能力还是空间采样率都受到限制。四棱锥波前传感器(Pyramid wavefrontsensor,PWFS/PS)是近几年在国外发展非常快的一种较新的传感器,与HSWFS相比,具有较高的能量利用率和很高的空间采样率。目前国内对PWFS的研究还处于起步阶段,仅对动态调制模式下的PWFS开展初步研究。本论文重点研究无调制PWFS的性能,建立的无调制PWFS和LC-SLM自适应光学系统,对实际应用中所涉及的关键技术问题进行理论和实验研究。　　 首先,根据国外对PWFS的研究结果,将论文的研究重点集中到无调制PWFS理论和性能研究上。推导了无调制PWFS信号与波前畸变之间关系式。该关系式表明无调制PWFS具有斜率型和相位型波前传感器的特点,而且其线性复原时所用的重构矩阵没有解析解。针对目前国际上将无调制PWFS等效于傅科刀口理论的假设进行了论证,从理论上指出无调制PWFS与傅科刀口衍射存在的差异,结合数值仿真结果,可以知道PWFS与傅科刀口衍射理论在测量信号强弱上有明显差异,但是在信号正负方向上差异不大。利用建立的数值仿真模型,对工作在调制和无调制两种模式下PWFS的性能进行数值仿真对比研究,发现动态调制只能将PWFS测量信号与波前斜率更接近,但不能消除这种差异。　　 然后,研究获取无调制PWFS线性波前复原时使用的响应矩阵在实际光路中可能遇到的问题。通过数值仿真确定了PWFS的线性区间,并比较目前已有的几种从光强到信号获取方式的优缺点,同时在线性区间内对大气湍流像差进行波前重构的数值仿真。当波前误差大于线性区间时,其符号的正负仍然正确,从而指出了无调制PWFS适合在闭环校正中应用。由于无调制PWFS响应矩阵不存在解析解,实测响应矩阵易受到系统像差等因素的影响,结合PWFS与傅科刀口衍射理论之间的异同,提出一种非实测响应矩阵,对其在闭坏校正过程中的可靠性进行研究。　　 其次,对无调制PWFS的自适应闭环系统设计进行优化,数值仿真表明,由于存在衍射效应以及棱锥尖加工造成的平台影响,无调制PWFS存在光强损失,畸变越强能量损失越小;光瞳中心间隔太小,相邻光瞳像内的衍射造成干扰,造成闭环校正精度变差;与HSWFS不同,获取实测响应矩阵时变形镜所产生的Zernike像差的RMS过大或过小都会影响闭环校正的速度和精度;四棱锥镜的加工平台会造成闭环校正时速度和精度的下降,可以通过增大入射光斑尺寸或者增大光瞳像中心间隔方法来减小平台的影响。　　 最后,在实验室内建立基于PWFS与液晶空间光调制器的自适应光学闭环校正系统。测量了PWFS衍射效应造成的能量损失,验证了本论文提出的非实测响应矩阵通过闭环校正可以使光学系统达到衍射极限的成像质量。验证测量实测响应矩阵时使用的Zernike像差的RMS值会对闭环校正结果的造成影响。结果显示,测量响应矩阵使用的各阶模式像差的RMS值有个合适的范围,过小影响精度,过大影响速度。