自由空间光通信(free-space optical communication,FSO ),是当今炙手可热的一种无线通信技术,它以激光为信息载体,通过在自由空间中传递来实现信息交换与传输,与传统无线通信相比,光通信凭借激光载体的性能特点,能够充分利用激光的高频带,在自由空间中实现高速率、高安全性的传输,所以,自由空间光通信被认为是非常具有潜力的通信技术。FSO在实际生产应用中,因为大气信道的时变特性,以及其中包含的大气湍流、大气衰减效应,其传输载体激光会受到非常大的影响进而使得通信系统的可靠性变差。为了应对大气信道中各种干扰因素对通信系统的影响,近年来,调制编码技术、自适应技术、轨道角动量技术等都是大家着重研究的领域,其中自适应传输技术是本文研究的重点。本文针对FSO提出了一种新型自适应调制系统并进行了相关研究,主要工作和成果如下:首先,本文针对FSO的信道特性进行了研究,分析了大气衰减和大气湍流的作用机理,以及它们对系统性能的影响。其次,研究了副载波强度调制的FSO通信系统模型,针对副载波强度调制在大气湍流下的性能表现进行了数学分析,在此基础上提出了一种自适应调制方案用以提高系统频带利用率。然后,针对无线信道信道估计的典型算法进行了研究,分析了其各自的性能表现,针对光通信信号的特殊性改进了相关算法,提出了适用于FSO的信道估计和信噪比估计策略。最后,在大气信道下针对恒定功率变速率MPSK自适应调制系统进行研究,利用一系列修正贝塞尔函数给出自适应调制系统的频谱利用率和错误率的数学表达,并针对以上关键性能展开仿真。通过以上工作得出结论,本文提出的自适应调制方案能够在保证通信质量的前提下灵活切换调制格式以适应通信质量不断变化的大气信道,从而提高通信系统频谱利用率,使得传输效率获得显著提升。