盲信号分离(Blind Source Separation, BSS)技术仅利用很少的先验信息就可分离混合信号,在数字通信、语音信号处理、图像处理、雷达与通信系统、信息检索、数据挖掘和生物医学等领域获得到了广泛应用,是信号处理领域的研究热点。通常假设观测信号的数目等于或大于源信号的数目,即混合过程是正定或超定的,独立分量分析(Independent Component Analysis, ICA)是有效的求解方法,其关键是混合矩阵的逆矩阵估计,目前已有多种性能优越的ICA算法。然而,在实际的盲信号分离应用中,如语音信号采集,无线通信等应用中,不可避免地会出现观测信号数目小于源信号数目的情况,即欠定混合的盲信号分离。此时,由于混合矩阵不可逆,经典的ICA方法不再适用,欠定盲信号分离的理论和算法有待于进一步深入研究。本论文主要研究欠定盲信号分离方法。首先,本文从稀疏分量分析方法(Sparse Componnent Analysis, SCA)入手,研究放宽稀疏性条件下的欠定盲混合矩阵估计问题。基于SCA的欠定盲混合矩阵估计算法通常先聚类求得混合矢量张成的超平面,然后估计混合矩阵；在源信号稀疏性差时,此方法涉及运算量较大的超平面聚类,算法效率低。本文提出一种新的基于超平面法矢量的混合矩阵估计算法,先求解法矢量,取代与之相对应的超平面聚类,然后利用法矢量求得混合矩阵。该方法不需要进行超平面聚类,大大降低了运算量,提高了混合矩阵估计效率,而且降低了对源信号的稀疏性要求,增强了算法的实用性其次,研究了基于非负矩阵分解(Nonnegative Matrix Factorization, NMF)的盲信号分离问题。NMF用于求解盲信号分离问题时,为了实现唯一分解,要求混合矩阵是正定或超定的,这限制了它在欠定盲信号分离中的应用,本文研究提出了基于约束NMF的欠定盲信号分离方法。对NMF的分解结果分别施加分解矩阵行列式最小、源信号稀疏性和不相关性等的约束,实现了混合矩阵和源信号的唯一分解,成功地将NMF拓展应用到欠定盲信号分离中。此外,对于超定或正定混合的情形,约束NMF方法可以提高信号分离的质量。仿真结果表明所提出的算法能成功盲分离源信号稀疏较差的欠定混合。最后,研究了盲信号分离在成对载波多址(Paried Carrier Multiple Access, PCMA)中的应用。传统PCMA通信信号的获取采用信号抑制方法,该方法要求已知本地信号和自身下行信号参数的准确估计,通过抑制本地信号实现对方发送信号的接收。本文针对传统方法中存在的参数估计困难和不能实现非合作通信的缺点,研究提出了基于ICA的单通道PCMA信号的盲分离方法。利用正交接收机,将欠定混合的单通道PCMA信号模型转化为正定混合模型,进而使用成熟的ICA方法分离得到通信双方信号,避免了容易产生误差的复杂参数估计和调整环节,而且能够实现盲接收。仿真结果验证了本文所提出的方法的有效性和优越性。