随着科学技术的快速发展,我们对互联网的使用越来越普及,各种应用也随之诞生,例如云计算,人工智能,智能家居,虚拟现实,无人驾驶等等,这些技术的发展和应用都离不开大数据和数据流量。这是一个大数据时代,各种新型带宽业务的发展导致数据容量的增加逐年成爆发式的增长,在数据通信中,不管是长距离通信还是短距离通信系统中对大容量的数据通信需求都越来越大,这就给目前的光纤通信系统带来了巨大的压力和挑战。根据思科全球云指数预测,2021年底,全球数据中心年流量将增长到20.6ZB。为了解决这个问题,提高光纤通信系统中数据通信的容量特别是短距离通信已经成为了近年来光通信领域的研究热点。直调直检系统是目前在数据中心内部,数据中心之间,接入网等短距离领域通信中可以被接受的最佳方案,具有低复杂度,高可靠性,低成本等优势。概率整形技术是最近几年诞生的一种新型编码调制技术,关于概率整形的研究目前已经成为了热点,概率整形技术主要用来提升系统的信道容量极限并提高系统的接收灵敏度。概率整形技术主要是改变信号星座图中符号的概率分布,将等概率分布的信号按照高斯概率分布模型整形成不等概率信号,增加低功率符号的概率,降低高功率符号的概率,最终降低信号的平均发射功率。直调直检是最大功率（幅度）受限系统,中间没有放大器,也没有在线色散补偿。在功率受限的直调直检系统中,提升信道容量的问题变成了在给定带宽和最大功率（幅度）时的信号空间大小分布的问题,以及实现方式。传统概率整形根据平均功率来实现高斯分布,没有考虑最大功率等问题,而本文提出的技术考虑了在带宽幅度受限的直调直检系统中,考虑最大功率（幅度）情况下对信号动态的调整概率分布使其具有最佳输入分布,降低了信号的峰值功率,避免了由于输入信号峰值功率过高而导致的非线性干扰。本文的主要研究内容和研究成果如下:（1）首先系统的分析了直调直检系统和概率整形技术的相关原理,对传统的直调直检系统结构以及信号的调制格式进行了仔细的讨论和分析,并对直调直检系统中出现的非线性系统作了详细的分析,介绍了传统概率整形技术在直调直检系统的缺点和不足。（2）提出了基于直调直检系统的动态概率整形（Dynamic Probabilistic Shaping,DPS）算法,并与静态的概率整形进行了对比分析,并用仿真软件MATLAB完成了实验测试,结果表明,相对于均匀分布的信号和普通的静态概率整形,动态概率整形能带来0.9 d B的信道容量的提升。（3）提出并实现了基于PAM4和PAM8信号的动态概率整形系统设计,并利用仿真软件实现,仿真结果表明,基于动态概率整形的DPS-PAM4和DPS-PAM8分别能带来0.8d B和1 d B的误码性能提升。（4）讨论和研究了基于概率整形的相位敏感放大器（Phase Sensitive Amplifier,PSA）的非线性损伤抑制研究,分析了PSA的研究前景和重大意义,以及PSA中面临的非线性损伤,提出了将概率整形技术引入到PSA中来缓解和抑制系统的非线性损伤,并利用MATLAB软件对16QAM信号进行了仿真设计,仿真结果表明,基于概率整形的PSA系统能带来约3 d B左右的EVM增益。