基于南极优良的视宁度，低的天空背景辐射，连续的极夜恒星观测和极昼太阳观测等独特而优异的台址条件，南极天文仪器成为了地面天文发展的前沿领域之一。中国在南极Dome A建立了天文台址，并研制了CSTAR阵列和AST3两代天文仪器。其中AST3-1和AST3-2已经在Dome A成功安装并运行，红外波段的AST3-NIR目前在研制阶段。本人的研究课题是基于AST3-NIR南极红外巡天望远镜的研制而展开的。本论文的研究内容包括光学初始结构的生成方法，天文望远镜像质模拟，红外光学系统杂散光、鬼像分析及热辐射分析等三部分内容。　　在现代光学设计中，由于优化软件(Code V，Zemax，OSLO)的出现，光学设计已经获得了很大的便捷性。但是使用上述的优化软件需要一个设计的起点，即初始结构。目前较为设计者熟知的为基于三阶像差平衡理论的PWC方法。对于大多数稍微复杂的系统，设计的自由度的个数远多于需要平衡的像差个数，使用该方法不易求得一组合理的解，这也就使得该方法不能成为一种通用而快捷的方法，而更适合求取相对简单的结构。本论文第一部分内容研究了Delano diagram在光学设计的应用，重点研究不同类设计要求的光学系统在Delano diagram中的设计约束条件，进而使用MATLAB与Zemax动态数据链，结合优化算法实现了不同类光学系统初始结构的自动生成。本论文通过对Delano diagram的设计约束条件的研究和相关Zemax接口程序的编写，实现了常用光学系统高效而快捷的初始结构的求解和生成，并用此方法设计了南极近红外巡天望远镜AST3-NIR和南极全日面H-alpha太阳望远镜。　　本论文第二部分研究内容为望远镜的像质模拟。由于在望远镜的运行过程中，会受到多种误差源（视宁度，失调，变形等）的影响，对于大型天文望远镜有必要在制造运行之前对望远镜实际像质进行模拟分析。基于实际的应用需求，本人编写了一般的望远镜的像质模拟接口，通过模拟接口和动态数据链，将望远镜的误差源通过MATLAB加入到Zemax，研究分析不同误差源下望远镜的像质。在诸多误差源中，本人选择了失调误差源作为重点研究对象。通过研究望远镜系统失调状态与望远镜PSF椭圆率之间的之间的关系，本人提出了通过望远镜焦面上星象的椭圆率的分布特性来反演系统的失调状态，这样就避免了传统失调反解中所需要的波前探测环节，使得望远镜运行中失调状态的反解变得更为便捷，非常适宜南极极端台址环境下的天文望远镜的光学失调检测。　　本论文最后一部分以AST3-NIR为研究对象，研究了红外光学系统的杂散光，鬼像，及热辐射的分析和抑制。本论文研究了不同光学结构的杂散光的抑制能力，进而通过杂散光的分析来反向对光学系统进行选择优化。对选定的光学系统，本论文对鬼像的传播路径和不同的传播路径上携带的能量做了分析仿真。然后结合南极天空背景辐射和AST3-NIR自身的热辐射，分析研究了AST3-NIR在不同温度条件下的探测灵敏度极限，并且得到了不同的灵敏度探测的受限区间，为AST3-NIR的科学产出评估提供了合理的依据。