无线光通信在无线高速信息传输应用上有很多优点，但其性能受大气湍流影响严重。对无线光通信系统的数字基带传输形式和带通传输形式进行研究，分析其在传输信道上基带信号和带通信号的波形、功率谱密度、带宽、信号形式及噪声等。不同调制解调方法的最优判决阈值可以通过求最小平均误判概率得到，利用最优判决阈值计算出真空条件下抽样判决器的输入信噪比和通信系统的误码率。　　 大气湍流对无线光通信的影响其根本是激光在大气中传输时的湍流效应。利用Rytov近似方法和修正的Rytov近似方法，可以求出湍流条件下的闪烁指数。采用部分相干光作为信号光，能降低光源相干度，有效抑制湍流效应。引入Gaussian-Shell模型对部分相干光进行研究，推导出大气湍流条件下的部分相干光的闪烁指数和光强概率分布。利用光强概率分布模型对真空条件下的系统误码率进行积分平均，得到大气湍流条件下的无线光通信系统误码率。对接收器上的光能信号和光电流信号进行分析，建立了七种调制解调方式下系统误码率与湍流强度、光源相干参数、激光发射器光功率等系统参数之间的定量关系。数值计算结果表明:(1)不同的调制方式中，性能最优的是2PSK其次为2DPSK、2FSK、2ASK。2DPSK相干解调加差分译码法的性能要优于差分相干解调法;调制方式为2ASK和2FSK时，非相干解调方式的性能比相干解调方式要差。(2)采用部分相干光能有效降低误码率，这是由于光束相干度下降后，光束能量分散到更大的光束内，对湍流效应造成的光强起伏有一定的抑制，从而减小接收光功率的波动;但过分降低光束相干性，光束能量集中度严重下降，接收光功率减小带来的误码率升高程度，超过了抑制闪烁效应带来的误码率降低程度，在这种情况下，降低光源相干度不仅不能提高通信性能，反而恶化了通信性能。(3)无线光通信系统中，对调制解调方式的选择需要抓住主要要求，如果抗噪声性能是最主要的，应采用2PSK和2DPSK的相干解调，而2ASK最不可取;如果要求有较高的带宽利用率，则应该选择2PSK、2DPSK和2ASK，2FSK最不可取;如果考虑对信道随机变化的适应能力，2FSK最优。相干解调方式比非相干解调设备相对复杂，成本也高。在无线光通信的理论分析时，一般采用2ASK相干解调方式;而在实际的高速无线光通信产品中一般使用2DPSK相干解调方式。