随着信息技术的发展,网络容量出现了爆炸式的增长。现有的单模光纤通信系统的容量趋近香农极限,为了进一步提升光纤通信容量,人们逐渐把目光聚焦于空间这一未被利用的维度,空分复用技术(SDM)应运而生。模分复用(MDM)是空分复用的一种,利用光纤中的模式作为独立的信道传输信息,近几年受到了广泛的关注。目前MDM系统的接收方式是先利用模式解复用器将信号分离成多路单模信号,然后分别输入到单模相干接收机中进行接收。此时系统所需的单模接收机的数量等于复用空间模式的数量,随着模式数量的增多,系统复杂度迅速上升,这将大大制约模分复用系统集成化的发展。着眼于上述问题,本文提出了基于一个空间型90°光混频器的少模集成相干接收机,并进行了详细的理论分析和实验验证。本文提出的理论以及实验研究内容,主要包括以下几个方面:(1)提出了利用空间并行自由度,基于模式解复用的少模集成相干接收机,其中需要模式解复用器和一个空间混频器。并对接收机进行了详细的理论推导,讨论了其优劣势和应用场景。(2)提出了基于模式正交性的少模集成相干接收机,不需要模式解复用器。针对基于多根少模光纤或多芯少模光纤的模分复用系统,提出了模式选择型少模集成相干接收机。同时针对接收机损耗提出了基于高斯噪声模型的补偿方案,并进行了仿真分析和讨论。(3)搭建了基于空间型90°光学混频器的2?20 Gb/s QPSK两模背靠背传输系统。开展了基于模式正交性的少模集成相干接收机实验验证工作,两套系统均实现了两个模式信道的无误码传输,验证了少模集成相干接收机的可行性。