近年来移动应用业务的增长,对接入网带宽提出了越来越高的要求。高速毫米波光无线融合系统充分利用光纤的巨大带宽和无线传输的灵活性,期冀为未来提供Gb/s级数据的传输。高速光无线融合系统由于其带宽高、覆盖范围广、传输速率高、保密性好,受到了越来越多的关注,国内外各大科研机构纷纷开展相关研究。本文从光无线融合系统的系统构建和原理出发,研究提升光无线系统传输容量和距离的关键使能技术,如光生毫米波技术,多维复用技术,以及在无线接收端的相干接收算法。在光发射机端,我们研究了不同先进调制格式的产生方式和原理,仿真分析了QPSK、16QAM等先进调制格式的不同传输损耗,并基于现已铺设的光纤网络,搭建了W波段通断键控(00K)信号光无线系统的实验传输验证系统,4 Gb/s信号经过40 km光纤和2 m无线传输后,误码仍能满足FEC阈值的要求。此外,基于相干检测,我们对QPSK色散补偿、偏振解复用、频偏估计以及载波恢复等线性和非线性补偿算法进行了研究,并对基于RF导频的DFTS-OFDM相位噪声补偿仿真系统进行介绍与分析。最后,我们搭建了基于W波段的双向传输光无线光纤融合实验验证系统,通过改进部署结构,引入光相干检测和数字信号处理技术,实现了在(20+20)km光纤链路和2 m无线链路上传输30 Gb/s的信号。