毫米波（Millimeter Wave,mm Wave）由于具有丰富的频谱资源成为未来移动通信研究的热点,同时,毫米波与混合预编码（Hybrid Precoding,HP）结构密切相关,对于混合预编码结构下的毫米波系统研究具有更重要的现实意义。由于在毫米波系统中频繁的信道估计对系统开销、时延、吞吐量等带来了巨大的挑战,使得利用信道时间相关性的信道跟踪技术凸显出优势,所以对于毫米波系统的信道跟踪技术有较大的研究价值。现有的应用于毫米波系统的信道跟踪技术研究成果较少,且多用于模拟预编码（Analog Precoding,AP）和单射频（Radio Frequency,RF）链情况。本论文针对混合结构下的毫米波系统信道跟踪技术做了研究,并取得一定成果和结论:一、本文针对毫米波系统混合预编码结构,提出了一种基于扩展卡尔曼滤波（Extend Kalman Filter,EKF）的信道跟踪方法。首先利用扩展卡尔曼滤波器跟踪得到信道角度信息,然后建模推导出迭代更新算法,在接收端更新合并矩阵以进一步提高跟踪精度。实验证明,对比其他算法,所提的基于扩展卡尔曼滤波的信道跟踪方法跟踪误差降低了20%,有效跟踪时间提高了30%。当用户速度极低时,该算法在大规模天线阵中跟踪性能更好;当用户速度低于20m/s时,适用于天线数为16～128的毫米波系统;若用户速度大于该值,该算法已不再适用。二、针对基于扩展卡尔曼滤波的信道跟踪方法无法解决的速度大于20m/s的场景,本文提出了一种基于预编码优化的压缩感知（Compressive Sensing,CS）辅助的信道跟踪方法。利用码本,将信道跟踪问题建模成一个压缩感知问题,将感知矩阵的设计问题转化成预编码的优化问题。文章中结合推导得到的预编码优化条件和相关一致性原则（Mutual coherence property,MCP）,设计稀疏感知矩阵,以准确重构信道状态信息。实验证明该方法能够以低于随机稀疏感知矩阵50%的测量值准确重构稀疏向量,适用于用户速度高于12m/s的大规模天线阵列场景,包括基于卡尔曼滤波器的信道跟踪算法无法解决的20m/s以上的用户速度场景,两种算法对系统天线数的要求不同。