近年来多输入天线多输出天线(MIMO)技术因为能大幅度增加无线通信系统的频谱效率和提高传输可靠性而得到越来越多的关注。本论文主要针对典型无线通信环境下单用户平坦衰落MIMO无线通信系统，研究了其基本的系统性能、信道遍历容量的近似与估算以及空时分组编码(STBC)系统的容量近似和差错率计算。研究工作以理论分析与数值仿真相结合，主要包括以下内容： 1．在假设各子信道独立同分布的前提下，研究了Rayleigh平坦衰落MIMO信道中遍历容量的估算与近似问题。验证了采用高斯近似和Gamma近似来近似计算系统中断概率和中断容量的可行性。利用W/n的特征值的谱密度收敛特性和Minkowskis不等式推导得出两种新的信道遍历容量的近似估算表达式。通过仿真分析得出：在不需要很高的精确度时，或在信噪比SNR较大(或较小)时，可以采用本文中给出的近似表达式来估算平坦Rayleigh衰落MIMO信道的遍历容量，这可以减小估算过程中的计算复杂度。 2．从发送端是否知道信道状态信息(CSI)着手，将MIMO系统分为三类，分别分析了MIMO系统的遍历容量、天线增益和分集增益。通过数值分析证明了MIMO信道的相关性并不都总是给系统带来负面的影响，在一定的前提下，信道的相关性可以被利用来改善系统的性能。同时仿真分析还表明MIMO信道的天线增益和分集增益总是无法在同时达到最大，实际情况下只能在两者间取个折衷。 3．研究了采用空时分组编码的MIMO系统的遍历容量的近似和差错率问题。在信道相关或不相关的前提下，按照各种不同衰落分布的特性，计算决定STBC系统性能的参数的统计特性。根据某些函数的积分特性，推导得出一种新的遍历容量的闭式表达式，较大程度的减小了积分计算的复杂度。利用泰勒级数展开法提出一种新的计算STBC系统遍历容量的近似表达式，避免了复杂的积分计算，并通过数值仿真证明了其在不同衰落信道及天线配置情况下都是比较精确的。通过分析采用MPSK、MQAM和GMSK等调制的无线通信系统的差错率表达式，并结合信道实际输出信噪比的概率密度函数，得到了STBC系统的误码率表达式。