更多的终端、更高的频谱效率、更低的时延以及超高的可靠性指标对第五代(The Fifth Generation,5G)及未来移动通信系统的构建带来了巨大的挑战。以叠加传输为代表的新型非正交多址接入(Non-Orthogonal Multiple Access,NOMA)技术方案不再要求正交性,使得在相同的资源上可以叠加更多的用户信息,在提高频谱效率、提升用户连接能力以及降低空口传输时延等方面相比传统正交方案都具有明显的优势,可以满足5G不同典型应用场景的需求。在众多的NOMA方案中,稀疏码分多址(Sparse Code Multiple Access,SCMA)技术被公认为是一种极具潜力的NOMA技术方案。然而其码本优化问题目前仍然是无法得到最优解的复杂的多维问题。而且,在码本规格较大、多天线或高密集用户场景中,接收端检测复杂度仍然很高。为了解决目前SCMA技术研究的不足,本文以SCMA方案的原理及关键技术研究为核心,重点研究了如何提高该技术的可靠性以及降低其检测复杂度。具体来说,为了提高系统可靠性,本文优化了 SCMA的码本和因子图矩阵;为了降低检测复杂度,本文提出了线性复杂度的检测算法。本文的研究内容充分挖掘了 SCMA技术的潜力,不仅提升了可靠性,而且降低了检测复杂度,有助于推动该技术在5G及未来通信中的应用。本文主要从以下几个方面展开:首先,为了对SCMA方案有更深刻的理解,本文对SCMA方案的原理和相关关键技术进行了系统的介绍。本文分别介绍对比了上行和下行SCMA的系统模型。随后对SCMA的码本构造、因子图矩阵的特性和检测算法等关键技术进行了介绍。在码本构造方面,本文介绍了分步骤优化的次优SCMA码本构造方法。在检测算法方面,本文首先介绍了性能最优但复杂度较高的最大后验概率(Maximum a Posteriori,MAP)算法。随后介绍了可以显著降低检测复杂度的对数域消息传递算法(Message Passing Algorithm,MPA),即Log-MPA 算法和 Max-Log-MPA 算法。本文通过仿真对比验证了 SCMA方案较低密度签名(Low-Density Signature,LDS)方案以及正交频分多址接入(Orthogonal Frequency Division Multiple Access,OFDMA)方案有显著的增益,且增益随着过载率或码本规格的增大而增大。其次,本文分别针对上行和下行SCMA系统提出了两种码本优化方法。考虑到目前关于SCMA多维码本的优化问题尚未得到最优解,所以该工作有助于为SCMA码本优化提供指导。针对上行链路,本文提出了联合几何成形和概率成形的上行SCMA码本优化算法,该算法以最大化平均互信息(Average Mutual Information,AMI)为准则,采用骨干粒子群优化(Bare Bones Particle Swarm Optimization,BBPSO)算法联合优化非均匀分布的SCMA码本。同时,本文调整了粒子群的拓扑结构以避免BBPSO算法陷入局部最优解。鉴于AMI无闭式解,采用蒙特卡洛仿真复杂度高的问题,本文推导出AMI下界的闭式解,并基于下行SCMA系统,提出了复杂度较低的、以AMI下界为优化准则的SCMA码本优化算法。与现有文献中单独优化母码本和不同码本间的旋转角度不同,该算法联合优化母码本和旋转角度。针对不同的信道、过载率以及码本规格,本文从理论分析和计算机仿真两方面证明了所提优化码本的优越性能和鲁棒性,并且通过仿真对比可以得到,随着过载率或者码本规格的增加,本文优化得到的码本较参考码本的增益也越明显。接着,本文基于传统的均值传播算法(Expectation Propagation Algorithm,EPA),为SCMA系统提出了线性复杂度的Max-Log-EPA多用户检测算法。考虑到接收端过高的检测复杂度是SCMA技术实际应用的一大阻碍,特别是对于码本规格较大、多天线或者用户密集的场景,所以该工作有助于提升SCMA技术的工程实用性。Max-Log-EPA算法在通过利用对数运算降低了复杂度的基础上,引入了求最值的Max运算,取代了部分对数运算与指数运算,进一步降低了复杂度。本文将所提的算法与SCMA系统典型检测算法的复杂度性能进行了对比分析。分析结果显示,随着接收天线数、叠加用户数或者码本规格的增加,本文所提算法中各类运算的计算复杂度较传统算法降低的比例也随之增大。此外,本文在不同的参数条件下对比了 Max-Log-EPA检测算法与典型SCMA检测算法的误块率(Block Error Rate,BLER)性能,仿真结果证明本文所提算法较传统的Max-Log-MPA检测算法在低信噪比时有轻微的性能损失,约为0.1dB～0.2dB,在高信噪比时性能几乎没有损失。最后,本文优化了 SCMA因子图矩阵,构造了大围长、非规则的大规模因子图矩阵。考虑到SCMA的码本优化和检测算法都是基于因子图矩阵展开的,因此,因子图矩阵的优化也是本文研究的重点。SCMA的稀疏因子图矩阵特性类似于低密度奇偶校验码(Low-Density Parity Check,LDPC)的校验矩阵,而且MPA检测算法的思想也是来源于LDPC码的置信传播(Belief Propagation,BP)算法,所以本文借鉴优化LDPC码校验矩阵的思想,研究了 SCMA因子图矩阵的设计。大规模的矩阵可以使用户数据分散在信道中,从而提升分集增益。非规则的度分布可以满足不同用户对占用资源数有所区别的需求,带来编码增益。大围长特性可以提高迭代检测算法的性能。本文利用不等保护准则优化了远近效应场景下因子图矩阵的度分布,采用渐进添边(Progressive Edge-Growth,PEG)算法构造了大围长、非规则的大规模SCMA因子图矩阵,并通过外信息转移(Extrinsic Information Transfer,EXIT)图分析了所构造的矩阵较参考矩阵在迭代检测中的优势。本文基于该因子图矩阵提出了一种可以灵活设置单个用户同时占用的SCMA数据层数的低密度叠加调制(Low-Density Superposition Modulation,LDSM)方案。BLER 仿真结果和 EXIT图分析都证明了所提的LDSM方案较参考方案有一定的性能增益。总之,本文对SCMA方案的原理及关键技术进行了系统的介绍并提出相应的优化方法,充分挖掘了该NOMA方案的潜力。有助于推进其工程应用,可以进一步满足大连接、低时延、高谱效等5G及未来通信的需求。