由于可以在衰落信道环境下提供比传统的单天线系统更高的频谱利用率、更强的抗衰落能力以及更优越的误码性能，多输入多输出(MIMO)系统在过去的十年中得到空前迅猛的发展。目前MIMO系统研究的热点已经从单用户MIMO系统转向多用户MIMO系统。而在多用户MIMO系统下行链路中，用户终端由于设备尺寸和电源功率的受限，无法进行复杂的数据处理，因此，基站端的编码调制以及预处理等技术就显得尤为重要，但这往往会受到信道变化、反馈信道设计、码本选择等因素的制约。有鉴于此，本文的主要内容就是基于多用户MIMO系统的下行传输技术开展研究，主要包括以下四点：　　 1.本文提出了一种天线单元方向图可控的MIMO系统。由于发送端每一个发送天线单元的方向图可控，所以，可以根据用户之间的空间相关性合理配置方向图，有效地避免了用户之间的干扰，节省发送功率。同时，所处相同空间的用户数目的减少，有效的降低发送端预编码技术的计算复杂度。本文把提出的使用了阵列天线作为方向图可控阵元的MIMO系统称为MIMO—BF系统。对新系统的研究与分析表明：使用独立简易CI预编码算法的MIMO—BF系统性能在较使用联合CI预编码算法的MIMO系统性能损失不大的前提下，MIMO—BF系统可以有效的降低了系统的计算复杂度，实现多用户下行链路数据的有效传输。　　 2.本文研究了在一定的天线数目前提下，不同MIMO—BF结构布阵方式的系统性能，通过了大量的分析与仿真得到：通过对天线分组数的合理选取，可以在系统性能要求和布阵结构复杂度之间实现良好的折中。通过MIMO—BF系统布阵方式的研究，我们给出了不同布阵方式可以实现的性能上限，为基于MIMO—BF系统的天线布阵的设计，提供了一种帮助。　　 3.本文提出了一种新的基于量子信号处理(QSP)的波束成形算法，主要是为了解决多用户MIMO—BF系统中，共享时频资源的用户数大于基站发送单元天线阵元数目时，发送单元天线阵列无法为共享时频资源用户提供完全独立的信道的问题。该算法是一种基于对整体数据进行优化处理的算法，它可以在仅仅已知各个用户的来波方向的前提下，使得所有用户的接收功率的和最大，同时最小化用户之间的干扰。本文给出了一种共享时频资源的用户数大于基站发送单元天线阵元数目场景下的新方案。同时，我们还基于QSP波束成形的思想，给出了针对不同用户分配不同权重的加权QSP波束成形器和针对不同方向信号的相关性给出的基于相干约束的QSP波束成形器。研究和仿真结果表明了上述算法的有效性。通过采用基于QSP的波束成形器的研究，我们在基站只需已知各个用户的波达方向的前提下，实现共享时频资源的用户数大于基站发送单元天线阵元数目下的数据传输，为基于MIMO—BF系统的下行链路通信提供了一种新的波束成形技术。　　 4.本文提出了基于STBC技术的多用户MIMO—BF系统的传输方案。给出了平衰落信道下基于STBC的多用户MIMO—BF系统的收发信号模型，并且讨论了不同信道相关性下该结构的系统性能。我们针对频率选择性信道下的基于STBC—OFDM技术的多用户MIMO—BF传输进行了研究，针对系统用户相关性低的情况，给出了子载波共享的方案。当用户之间的相关性高时，给出了组内独享组间复用的子载波使用方案，利用这样的子载波分配方式，可以实现多用户之间互不干扰的信号传输。通常由于波束的覆盖能力及范围的有限性，MIMO—BF系统的波束边缘用户的可靠性较差，我们提出了基于波束交错的波束覆盖方案，新方案可以有效地解决波束边缘用户的传输可靠性。通过把STBC技术和STBC—OFDM技术与MIMO—BF系统相结合，我们在基站未知各个用户信道信息的前提下，只需已知各个用户的空间方向，就可实现平衰落信道和频率选择性信道下多用户基于STBC技术的传输，为MIMO广播信道的多用户通信提供了一种新的解决方案。