极化码是已知的唯一一种可以被证明是信道容量可达的新型信道编码方案,深受学界关注和研究,仅“诞生”十余年就成为了第五代移动通信(5G)中e MBB场景下控制信道的编码标准,尽管如此,极化码的译码算法仍需进一步改进。近几年来,深度学习技术日益成熟,深度神经网络技术对于分类问题有着非常优异的性能,而极化码的信道译码问题本质上也是高维空间的分类问题,因此利用神经网络技术解决信道译码问题成为当前的热点,随之提出的神经网络译码器可以实现低时延译码并且性能接近MAP译码性能,但是只能对超短码进行译码学习。本文以此为背景,分析了当前神经网络译码器普遍存在的维度诅咒问题的产生原因,并从网络结构和译码系统框架两方面分别对当前的神经网络译码器进行了优化。针对网络结构,本文提出了一种基于极化码处理单元的图神经网络译码器(PC-GNND)。传统的神经网络译码器在学习译码时通常因为运算的不匹配性和缺乏码字结构等先验知识,导致其缺乏泛化能力。因此,本文设计一种基于多层感知器的极化码处理单元以解决运算不匹配问题,并将处理单元结合极化码的译码图形成网络结构,从而使PC-GNND具有在译码图上推理的能力并提高其泛化能力。仿真结果表明,PC-GNND能够仅使用整个码本的极小一部分就能非常有效地学习正确的码字结构和信道噪声特征,并且所需参数和训练时间远少于传统神经网络译码器但是译码性能却更好。此外,特定码长的PC-GNND经过充分训练后得到的处理单元可以直接用于初始化其他码长下PC-GNND的参数,经过微调后即可工作,大大降低了训练的计算成本。针对译码系统框架,本文提出了基于码字端学习的LSTM神经网络译码器。传统的神经网络译码器系统框架是基于信息端学习的,这要求神经网络既要学习噪声特征,又要学习码字端到信息端的码字结构映射。经分析,码字结构本质上是N-bit校验问题的集合,这是神经网络难以有效学习的。通过改变神经网络译码器的学习目标,提出了基于码字端学习的神经网络译码器系统框架,避免神经网络被动学习码字结构映射,并采用泛化能力较强的LSTM神经网络进行极化码的译码学习。仿真实验的结果显示,基于码字端学习的LSTM神经网络泛化能力得到了极大的提升,只需要学习码本空间的小部分码字就可以主动学习到码字的空间分布特征,并能实现接近于MAP译码算法的译码性能。此外,我们还找到了训练集码本比例界,发现了“混沌区”的存在,用以指导训练集的产生。