2020年嫦娥5号探测器任务的圆满成功为我国探月工程一期阶段画上了完美的句号,也为未来的月球探测任务带来了更多憧憬。月球探测任务面临环境复杂、飞行时间较长、全自主性难以保证等困难,传统的地面测控导航方法存在可测控弧段有限、实时性低、信号衰减大、测控时延长等问题。以星光导航和X射线脉冲星导航为代表的天文导航方法具有隐蔽性高、自主性强、抗干扰能力强、精度高等特点,故本文将对两种天文导航方法开展研究,设计可应用于月球探测器的全自主导航系统。针对飞行于地月转移轨道的月球探测器的状态建模问题,从圆型限制性三体模型、圆型限制性四体模型和完整模型中,选择兼顾计算效率和精度的圆型限制性四体模型;姿态模型选择欧拉角姿态运动模型,并开展姿轨运动的仿真分析。作为目前最成熟的天文导航算法,星光导航是通过将星敏感器探测到的观测星与宇宙空间中位置已知的导航星匹配识别,确定载体的位置、速度与姿态信息。针对月球探测器的天文导航问题,开展星敏感器的地面标定方法研究,模拟低、高动态下星敏感器数据采集与图像处理过程,解算探测器的姿态信息,以及导航星相对地球和月球的星光角距信息。考虑到X射线脉冲星信号能够持续提供高精度的导航信息,引入X射线脉冲星导航方法。通过合理筛选出可见的脉冲星,提取脉冲辐射轮廓,建立脉冲星导航测量模型。针对自主天文导航系统的强非线性特征,选择扩展卡尔曼滤波和容积卡尔曼滤波分别对星光导航、脉冲星导航与组合导航系统进行仿真验证。针对实际应用中,组合导航系统中星光、脉冲星子导航系统可能出现的失灵情况,进行多工况仿真分析,评估导航系统性能。受到空间复杂环境的干扰,星敏感器成像质量下降,导航星出现误匹配,观测数据出现野值点,影响导航系统的精度。针对这一问题,研究野值点建模问题,并采用鲁棒容积滤波算法（Robust Cubature Kalman Filter,RCKF）实现高精度并可靠的星光导航与组合导航系统。最后,通过仿真验证,评估该方法的有效性。