随着科技的进步，纳米测量技术已经在大多数领域得到蓬勃发展，位移作为最基本的物理量之一，迫切需要向着高速度、高分辨力、大量程、小型化、低成本的纳米级测量方向发展，而现代精密位移测量技术最主要的两个手段是激光干涉和光栅计量，光栅计量不仅具有激光干涉高分辨力、高精度、大量程的优点，而且不易受环境干扰、成本低廉、易于小型化。国外对光栅计量的研究已经相当成熟且已批量生产，我国虽已取得一定发展但由于起步较晚，较国外还是有一定差距，研究基于衍射式光栅的纳米级位移测量系统意义重大。本文研究了一种基于反射式衍射光栅的位移测量系统，利用二次衍射光实现光学四细分，配合正交信号160倍细分，使测量系统具有纳米级的分辨力。基于偏振光学理论，优化了四细分光学传感器模型，消除0级衍射光在光路中多次反射的影响，减少了干涉场的杂散光；利用波动光学和傅里叶光学理论，对所需使用的光栅的结构进行分析，得到光栅的结构参数与激光光源之间理想关系，从而使衍射级次能量集中；借助光学设计软件Lighttools以获得光栅的偏摆公差、光学元件定位公差等特性；从测量理论入手，针对光栅及光学元件的组装误差对测量信号造成的影响进行分析。优化光栅信号处理方法，完成了光栅信号处理的软硬件设计，经过前级调理电路后，有效地消除了干涉信号存在直流电平漂移、非正交误差、不等幅误差等，通过数据采集卡完成对干涉信号的采集和位移算法的实现。整合优化后的光学传感器、前级调理电路以及数据采集卡，搭建光学构架平台，构建整个位移测量系统，对系统各单元性能进行了测试，同时进行整机实验，并分析实验结果评估系统各项参数。结果表明，本系统线性度和重复性良好，测量分辨力优于10nm。