高吞吐量和低干扰是无线通信系统的重要设计标准,网络编码（NC:Network Coding）因其通过减少用户之间信息交换的时隙提高系统的吞吐量而被广泛应用于无线通信。由于差分混沌移位键控（DCSK:Differential Chaos Shift Keying）调制技术具有抗多径衰落、不需要载波同步等优越性能,因此被选作网络编码方案的候选者。但是DCSK调制传输数据率较低、性能较差,导致基于DCSK调制的网络编码传输系统吞吐量较低、性能较差,不能满足人们日益增长的对高吞吐量和高性能的要求。因此,本文融合了多元差分混沌移位键控调制和网络编码,提出了基于多元差分混沌移位键控调制的网络编码传输系统。主要创新性工作归结如下:（1）针对原先提出的基于DCSK调制的网络编码传输系统存在的吞吐量和性能较差的问题,提出了基于M-DCSK调制的直接网络编码（DNC-MDCSK）传输系统。推导了 DNC-MDCSK传输系统的理论的误码率（BER）和吞吐量,并用仿真证明其正确性。最后,通过仿真验证了 DNC-MDCSK传输系统在误码率性能,系统吞吐量和系统的复杂性以及成本上的优势。（2）为降低噪声对多级码移位差分混沌移位键控调制系统的影响,提出了多级码移位差分混沌移位键控参考分集（MCS-DCSK-RD）调制系统。在发射机利用多个Walsh码序列发送参考信号及其复制版本（本文称为参考分集）来降低信号的噪声,并根据推导的理论BER推导出最佳参考分集数。之后通过仿真验证理论推导的正确性和系统性能的优越性。此外,本文还对所提出系统进行进一步优化,通过对接收信号进行加权平均来降低接收信号的噪声。（3）网络编码传输系统需要多次经过信道传输,噪声对系统的干扰较大,借助MCS-DCSK-RD调制方案及其进一步优化方案较强的降低噪声的能力,提出了基于MCS-DCSK-RD调制的直接网络编码（DNC-MCSDCSK-RD）传输系统来提高系统的性能。理论推导了所提出系统的性能和吞吐量,并通过仿真验证了理论推导的的正确性和系统的优势。