重叠X域复用（Overlapped X Domain Multiplexing,OVXDM）技术是一种新型的非正交高频谱效率编码方式。与传统通信系统相比,OVXDM系统通过违反奈奎斯特准则,缩小发送符号间的间隔,使得相邻的K个符号在X域（时域或频域）有规律地移位重叠,提高单位时间或带宽内的信息发送效率,从而达到提升系统频谱效率的效果。与传统通信系统不同之处在于,重叠复用原理认为符号间的重叠不是一种干扰,如果对其进行有规律地重叠,这可以作为一种有益的编码约束关系。而且,相邻的K个符号间的重叠越严重,相应的频谱效率提升越明显。但是,符号间的重叠导致在接收端译码算法的计算复杂度急剧增加。当采用最大似然算法对其进行译码时,其译码算法的计算复杂度随着重叠复用重数K的增加指数增长,这限制了其实际应用。因此,为了推动OVXDM技术的实际应用,研究适合OVXDM系统的低计算复杂度的译码算法具有重要意义。在本论文中,主要针对时域OVXDM系统进行了以下几个方面的研究。首先,介绍了三种通过违反奈奎斯特准则来提升频谱效率的通信技术:FTN、SEFDM和OVXDM,并对这三种相似的通信技术之间的区别与联系做了简要分析。其中着重介绍了本文研究的OVTDM技术的系统模型,并简要概述了目前针对OVTDM系统提出的各种译码算法的译码原理及译码流程。这些工作为低计算复杂度译码算法的研究奠定了基础并提供了新的研究思路。之后,在以上理论分析的基础上,提出了一种新型的低计算复杂度译码算法——双向维特比译码算法（Bidirectional Viterbi Algorithm:BVA）。仿真结果表明,与最优译码算法相比,双向维特比译码算法耗费的译码时间减少了将近一半,并且其译码性能基本没有损失。BVA降低了对接收端译码器的硬件要求,这将避免出现译码信息的擦除和缓存区的溢出。这些优点对OVTDM在高频谱效率场景的应用具有重要意义。最后,提出了另一种新型的低计算复杂度的译码算法——k-best Viterbi译码算法。这种算法通过对Viterbi译码算法进行简化,减少幸存路径条数,从而降低其译码复杂度。仿真结果表明,所提出的k-best Viterbi译码算法比Fano译码算法有着更加优秀的译码性能。相较于Viterbi译码算法,所提出的k-best Viterbi译码算法计算复杂度更低,同时其译码性能接近于最优译码性能。尤其在重叠复用重数比较大的条件下,k-best Viterbi译码算法保留相对较少的幸存路径也能达到接近最优的译码性能,这显示了该算法在高频谱效率下译码的优势。