5G时代的到来,智能终端的普及,互联网和物联网的快速发展,人们对于更高速率通信的要求,使得人们对信道容量的需求不断增大,多种调制,编码以及天线技术得到应用,现阶段频的谱利用率已接近香农公式极限。轨道角动量(OAM)可以实现在同一频点的多路复用,有效提高信道容量和频谱利用率,已成为通信领域的研究热点。轨道角动量(OAM)电磁涡旋波由于其特殊的螺旋相位结构,可以依据相位波前的不同形成不同模态的、彼此相互正交的电磁涡旋波。OAM电磁涡旋波可以提供新的复用维度,在同一频点下以不同模态的电磁涡旋波承载多路信号,可以在不增加带宽的情况下数倍的增加信道容量和频谱利用率以满足未来的通信需求。而理论上OAM电磁涡旋波的模态可以有无穷个,其应用潜力无比巨大。本文对使用阵列天线接收OAM电磁涡旋波的方法进行研究。由于OAM电磁涡旋波的中心空洞和波束扩散现象,一般的天线要想处于理想的接收区域内要求天线的尺寸十分巨大,这将限制OAM电磁涡旋波应用于远距离传输。本文提出将圆形阵列天线的阵元压缩在一段弧线区域内,通过只接收一部分信号而达到信号接收解复用的目的,能够有效的降低天线的物理尺寸。同时对使用圆形阵列天线和弧形阵列天线进行了仿真并分析研究了信道及天线安装不理想因素对信号接收质量的影响。后针对使用弧形阵列天线接收造成的模态分组问题进一步提出多层弧形阵列天线的接收方案并将分集增益的思想应用到OAM信号的接收中,达到提高通信质量的目的。最后本文进行总结,对未来OAM电磁涡旋波应用于无线通信中的研究进行展望。