随着无线通信技术的不断发展,人们对频谱利用效率的要求也在不断提高,这促进了新型无线传输技术的研究和应用。波束成形技术就是一种能有效地抑制干扰,提升无线通信系统容量或者误码性能的传输技术。目前,波束成形技术已经作为IEEE802.16e标准的一部分,同时也被LTE-Advanced标准所采用。波束成形技术实际上可以看成是一种基于多天线的空间滤波技术,通过在收发两端设计信号的发射和接收矩阵,达到抑制干扰、提高期望信号功率增益的目的。多用户MIMO系统中波束成形的设计不仅需要考虑将期望信号的主瓣方向对准期望用户,同时还需要尽可能避免期望信号对其他用户造成干扰。因此,波束成形的设计需要综合考虑发射矩阵、接收矩阵的设计以及不同用户、同一用户不同数据流之间的功率分配这三个方面,三者相互联系,互相制约。在多用户MIMO系统中,波束成形的设计往往要求不同发射端之间大量精确的信道状态信息交互,这在实际使用中很难实现,而且开销也很大；其次,在利用MIMO系统的复用增益发射多个数据流时,往往会忽略不同数据流之间的干扰,这会带来系统性能的降低；最后,如何设计高效的功率分配算法,在保证各个用户服务质量(Quality of Service, QoS)需求的情况下,最小总的发射功率、提高功率效率也是一个很值得研究的问题。本文针对多用户MIMO系统中波束成形设计所存在的上述问题展开了如下的研究工作：第一章介绍了本文的研究意义,分析了现有多用户MIMO波束成形技术的研究现状,给出了多用户MIMO波束成形设计需要解决的问题的数学模型。第二章提出了一种基于空间距离的迭代干扰对齐算法,推导出了收发波束成形矩阵的闭式解,证明了该迭代算法的收敛性,分析了该算法的性能和计算复杂度,并对其做了相应的仿真验证。第三章结合实际的应用场景,基于TD-LTE标准中基站和中继站可以获得的有限的有用信息,提出了一种用于提高蜂窝中继网络回程容量的分布式波束成形算法,评估了该算法的传输性能和计算复杂度,为该算法在TD-LTE系统中的应用提供一定的参考依据。第四章研究了在用户QoS约束下单流功率分配的可行性,求解出多用户单流功率分配的可行性条件,给出了相应的功率分配方案,并与传统的平均功率分配做对比分析。第五章对全文进行了总结,并提出下一步的研究工作。