近来,有研究发现电磁波（EM）的一种特性是同一频带下能够多路传输携带轨道角动量（OAM）的涡旋电磁波,并且不同轨道角动量模态的涡旋电磁波束之间相互正交。因此,轨道角动量可以作为新的资源应用于无线通信中。通过同轴发送多个OAM涡旋电磁波束,可以实现同时同频传输多路信号,这种基于轨道角动量的多模态复用将大大提升无线通信系统的容量及频谱效率。将OAM涡旋电磁波束应用于无线通信,首先要对轨道角动量的基本理论及关键技术进行一个全面的研究,并以此为基础,对OAM涡旋电磁波的传播特性进行深入的研究。在无线通信系统中引入OAM涡旋电磁波束,对轨道角动量非正交传输的性能进行了分析,并研究了轨道角动量同向传输的多用户配对,为轨道角动量在无线通信中的应用做了理论上的准备。本文的主要研究内容如下:1)在OAM涡旋电磁波束的产生方式中,均匀圆形天线阵列通过向每个天线单元馈送一定的相位偏移来辐射携带轨道角动量的涡旋电磁波束。本文详细介绍了均匀圆形天线阵列产生OAM涡旋电磁波束的基本理论,对均匀圆形天线阵列生成的OAM涡旋电磁波束的传播特性进行了研究。通过对OAM涡旋电磁波束在传播过程中的幅度和相位进行分析,得到了携带轨道角动量的蜗旋波束的传播特性以及具有不同轨道角动量模态的涡旋电磁波束的不同辐射特点。2)本文理论上建立了轨道角动量的非正交传输模型,提出了轨道角动量非正交传输的信道容量分析方法。在相同收发天线模型下,将轨道角动量的多模态复用的信道容量与MIMO多流传输的信道容量进行了对比,得到轨道角动量多模态复用的性能特点。此外,还对不同天线阵列模型下的轨道角动量非正交传输系统的信道容量进行了对比,得到不同天线阵列模型对轨道角动量非正交传输性能的影响,并分析了不同接收天线数和轨道角动量模态数对轨道角动量非正交传输性能的影响。3)本文还对轨道角动量同向传输的模型进行了搭建,然后对多用户配对算法进行了详细介绍,研究了 OAM涡旋电磁波束同向传输时的多用户配对情况。通过仿真结果可以发现,OAM涡旋电磁波束在同一方向上传播时的多用户配对是可能的,并且可以带来一定的配对增益。