自由空间光(Free Space Optical,FSO)通信技术属于无线通信技术领域,它主要应用于室外通信环境。该通信技术以光波作为载波,它能有效抵抗外界电磁波干扰且拥有丰富的频谱资源和巨大信道容量、信息不容易被窃取等优点。更重要的是在接入互联网时无需进网许可及安装施工过程相对容易方便。因此自其于20世纪60年代问世以来引起全世界范围内的广大专家学者的高度关注。自21世纪以来,通信技术得到突飞猛进的发展,通信服务业务也蓬勃发展,人们对高质量的通信需求也相应迅速增长。面对这种情况与发展趋势,传统的无线电射频(Radio Frequency,RF)通信技术变得越来越无能为力,但FSO通信技术因其独特的技术优势逐渐成为下一代(5G)无线通信技术的重要组成部分。尽管FSO通信技术有许多优势但同时也存在很多弊端。FSO通信系统在近地大气层工作时,由于激光的传输介质是大气,因此光波信号容易受到许多外界因素的干扰,从而使系统性能有一定程度的下降。FSO通信系统按调制方式可以分为强度调制/直接检测(Intensity Modulation/Direct Detection,IM/DD)光通信系统和相干光通信系统。本文主要采用相干光通信系统,它具有探测灵敏度高,抗背景光和抗噪声干扰能力强,传输距离远等优点,尤其是与相干光正交频分复用(Coherent Orthogonal Frequency Division Multiplexing,CO-OFDM)调制相结合,可实现更远距离和更高速率的传输,但CO-OFDM通信系统会因激光相位噪声等造成OFDM 子载波间的串扰(Inter-carrier Interference,ICI)。为缓解 CO-OFDM 系统上述缺点,提高系统性能,本论文主要进行了以下几部分研究工作。首先,针对FSO通信系统在近地大气层工作时,系统性能容易受外界气象及环境因素影响的问题,特别是路径损耗、大气扰动和未对准差错会造成系统性能严重下降。为有效解决这一棘手的问题,将多输入多输出(Multiple Input and Multiple Output,MIMO)技术引入到CO-OFDM系统中,充分利用系统的分集增益,设计了基于MIMO技术的CO-OFDM FSO系统。除此之外,本论文详细考虑了大气扰动、路径损耗和未对准差错等各种可能会对系统造成不利影响的因素,在此基础上建立了联合信道模型,并详细分析了系统在该信道模型下系统的误码率与中断概率性能,推倒出了系统在该信道模型下采用不同信号合并方式时的误码率与中断概率的闭合表达式,最后通过Matlab解析计算,更直观地得出了不同发射端数目、接收端数目以及不同信号合并方式对系统性能的影响。最后,基于极化编译码理论的CO-OFDM设计方案,给出了 CO-OFDM中的极化码编译码原理与过程分析,在保证CO-OFDM系统的高传输速率的同时降低了 ICI对系统性能的影响,使该通信系统能有效抵抗因线性与非线性损耗,更加适用于高速率远距离传输,同时兼顾了系统的复杂度和有效性,并在不同编码长度与不同OFDM子载波数目下得出仿真结果。通过比较上述仿真结果,更好地分析了极化码编码长度和CO-OFDM系统子载波数目对系统误码率性能的影响。