卫星通信在日益增长的网络、业务、高速数据传输的需求下不断朝大带宽、高频谱效率的方向发展。新一代数字电视广播标准DVB-S2X的提出,给卫星通信系统带来了更多的挑战。卫星信道中的行波管放大器（Traveling-Wave Tube Amplifier,TWTA）产生了强非线性和记忆效应,DVB-S2X系统在发射机的预补偿和接收机处的后补偿可以使系统的非线性失真得到更好的恢复。本文针对DVB-S2X卫星系统中的TWTA非线性失真,主要集中精力研究发射机侧的数字预失真技术。根据其应用场景,主要针对单载波场景及多载波场景进行预失真算法研究,本文的研究成果如下:（1）研究DVB-S2X系统中的TWTA特性,并探索链路功率回退的评估方案。首先对标准中给出的TWTA特性曲线进行拟合,给出适用于DVB-S2X系统的非线性特性函数;其次,对非线性信道中的失真成分展开分析,并在相关文献的基础上对非线性信道的噪声方差进行计算;最后,综合所量化的非线性失真,提出了非线性失真条件下的功率回退半仿真评估方案,通过对系统误比特率（Bit Error Ratio,BER）的仿真,验证了其正确性。该评估方案展现了比传统的计算链路总回退方法更小的时间复杂度,可广泛用于预失真算法补偿性能的评估。（2）研究DVB-S2X系统单载波场景中的预失真算法。首先对预失真算法的评价指标展开叙述,并列举了几种关键指标用于后文算法性能评估;其次,介绍了比较主流的学习结构和预失真收敛算法;然后对已有的DVB-S2标准中的静态预失真和动态预失真算法进行仿真,并将其扩展到DVB-S2X系统;最后,针对以上算法的资源占用率和性能提升上的不足,本文设计了一种基于记忆多项式模型的间接递归最小二乘（Recursive Least Squares,RLS）预失真算法。仿真对比后,该算法对比已有预失真算法在资源占用率和性能中都取得了较好的优化效果。（3）研究DVB-S2X系统多载波场景中的预失真算法。首先对多载波系统进行建模,分析了卫星转发器的输入输出成分,得到三阶交调项的表达式;然后实现了基于记忆多项式模型的直接结构预失真方法,分别包括独立预失真和联合预失真;仿真结果表明了直接结构预失真的性能优于间接结构的性能,而联合预失真器虽有更高的实现复杂度,但其性能优于独立预失真器。本文实现的多载波预失真技术将在DVB-S2X系统中有重要的指导意义。