CDMA和MIMO作为无线通信系统中的关键技术,它们检测算法的好坏直接影响了系统性能。DS-CDMA系统中的多用户检测和MIMO检测,都可以统一为向量信道中的信号检测问题。本文提出向量信道中一种基于置信度传播(Belief Propagation,BP)的信号次优检测算法,它从似然函数的表达式出发,通过迭代,目标是选择发送向量使似然函数的值增大。它的基本思路源于统计推断问题中的相关方法。论文以DS-CDMA系统的多用户检测问题为背景分析新算法,分别讨论了它在同步和异步CDMA系统中的应用。分析表明它是多项式复杂度的。由于每次迭代后对发送向量作硬判决,所以称为(同步)硬判决BP,它和多级检测器有相同的数学形式。在接收信号功率差异不大时,性能优于串行干扰删除。论文证明异步BP检测可以避免算法可能出现的状态振荡；为了增加算法收敛到全局最优解的概率,还提出用蚁群优化(Ant Colony Optimization, ACO)来改进检测过程。为了进一步提高误码率性能,在每一次迭代中不作硬判决,而是都用后验概率密度来表征置信度,改进后的算法称为软判决BP检测。它的差错概率比硬判决BP明显减小。其运算量虽然比硬判决BP有所提高,但还是多项式复杂度的。论文的另一个创新点是用信息几何方法对软判决BP检测算法进行重新描述。软判决BP是用m-平子流形代替e-子流形,通过m-投影的方式在可因子化的子流形上找到后验概率的一个近似分布。其数学本质就是统计力学中的平均场近似。最后将硬判决和软判决BP检测算法应用于向量信道的另一种模型：V-BLAST系统的信号检测中。仿真结果表明其性能优于排序干扰删除。