混沌是一种普遍存在于非线性系统的具有确定性和类随机特性的动力学行为，混沌序列的对初始条件的敏感性、貌似随机的行为和连续宽带功率谱等特性，使其在通信领域具有广泛的应用前景。本文的主要工作是围绕三种不同的混沌序列，对差分混沌键控通信系统的性能进行了深入的分析，包括：三种混沌映射的不同特性对DCSK通信系统性能的影响、选取一种映射作为载波对多用户DCSK通信系统采取分集接收和对加入伪高斯噪声的单用户DCSK通信系统进行Verilog HDL建模。　　首先理论研究了三种典型混沌序列的自相关和互相关特性分别对单用户和多用户的DCSK通信系统性能的影响，对自相关旁瓣不为零的分段线性映射进行了进一步的特性分析，并分别推导了基于PWLM的单用户和多用户DCSK通信系统的理论误码率模型，使其更具普遍意义。　　其次，研究了一种经典的多用户差分混沌键控通信系统在时延拓展的Rayleigh多径衰落信道下的分集合并接收方案，给出了整个系统的原理框图，推导出系统采用分集合并接收后的误码率模型，并通过仿真验证了理论分析的正确性。　　最后，对单用户DCSK系统在加入混沌迭代的伪高斯信道的情况下进行了Verilog HDL建模，其中混沌发生器采用基于数字化的Tent映射，用ModelSim对整个系统进行功能仿真，并与Matlab环境下的误码率性能进行比较，分析了造成偏差的原因并提出了改进的方案。