阵列天线技术是一种利用阵元的空间排布特性实现各种参数估计的技术，广泛应用于雷达、声呐、射电天文等国民军事领域，随着第三代移动通讯的兴起，阵列天线技术在现代通信中也将得到广泛的应用。在阵列信号处理理论中，阵列的无模糊性要求阵元间距小于半波长，随着所使用的电磁波频率越来越高，阵元间距也将越来越小，互耦误差对各种DOA估计算法的影响也将更加明显，因此对互耦误差校正问题的研究有着重要的意义。本文基于辅助阵元的思想结合斜投影方法等研究了互耦误差下的参数估计问题，主要工作如下：　　 1、研究了互耦误差的数学模型及其相关特性，从波束形成的角度分析了互耦误差对DOA估计算法的影响。通过仿真实验比较了两种常用互耦误差校正方法的性能，并将基于MUSIC的自校正方法推广到Y型阵列中，该方法能较好收敛于无互耦时的谱估计结果。　　 2、基于辅助阵元的思想，研究了互耦误差的校正方法，通过精确校正辅助阵元和非校正辅助阵元两种方式实现了互耦误差的校正。最后基于非校正辅助阵元法分析了互耦自由度的求解，对比分析了互耦参数的三种求解方式，发现最小二乘法与直接方程求解法本质相同，而特征值分解的方法性能略差。　　 3、基于均匀线阵互耦矩阵的Toeplitz结构，研究了互耦误差下的相干信号DOA估计。存在辅助阵元时，分析了互耦误差对相干信号阵列流型的影响，发现其在数学形式上可等效为衰减因子的改变，因此，可通过传统的解相干方法实现互耦下相干信号DOA估计。针对辅助阵元法存在阵列孔径损失的问题，结合最小二乘法思想和斜投影方法，实现了一种互耦误差下相干信号的DOA估计方法，该方法在低信噪比时具有有一定的优势，且计算量小，易于工程实现。