跳频通信系统具有抗干扰性能强、抗拦截能力强、抗衰落效果好等优势,在军用与民用通信方面具有广泛应用。在战场上无线电通信设备与电子侦查设备等不断向空间中发送电磁波,同时越来越多的通信信号样式被使用,导致通信过程中的电磁环境非常复杂。获取敌方跳频通信信息的前提是对截获的信号进行检测,为跳频信号进一步分析处理提供依据,因此在复杂的电磁环境下研究跳频信号的检测方法具有重要意义。跳频信号是一种时变信号,它的频率随着时间的改变在不断的变化,不易用精确的数学表达式对信号的特征进行描述,然而跳频信号的时频图像表现了信号的变化规律和特征,可通过时频图像处理来完成跳频信号的检测,本文研究了时频图像特征和深度学习的跳频信号检测算法,主要内容分为以下几个方面:1.研究了基于图像特征的跳频信号检测算法。分析了跳频信号的电磁环境,根据干扰信号与跳频信号的图像特征不同开展检测算法研究。由于噪声对图像处理产生较大影响,利用形态学操作去除无规则噪声的干扰;针对形态学操作后图像特征变宽的问题,采用图像细化操作可效地减少图像特征数据量,进而减小图像的识别难度;霍夫变换具有通过投票方法检测特定形状物体的特点,用于图像特征的提取,并结合跳频信号的特点完成信号的检测;最后搭建由软件开发套件GNU Radio与硬件USRP相结合的软件无线电平台,通过实物平台设计并采集实测跳频信号数据,通过数据的分析处理验证该算法具有可行性。2.深度学习用于跳频信号的检测进行了分析与讨论。为了能够在低信噪比下对跳频信号进行快速、准确检测,采用卷积神经网络（Convolutional Neural Network,CNN）方法进行信号检测研究。卷积神经网络具有自动提取图像特征的特点,可用它处理跳频信号时频图,设计与分析网络结构并进行参数优化实验,进而得到最优网络参数与信号检测模型,通过仿真实验验证了该方法能够在低信噪比下对跳频信号进行快速、准确检测,同时提高了检测识别率。为了完成跳频信号检测与信号的标记,采用Faster RCNN方法进行跳频信号检测,目标检测算法具有识别并标记多目标的能力,可用于处理复杂电磁环境下的跳频时频图,因此把该方法应用到跳频信号检测领域中,训练网络模型并测试,并通过仿真实验验证了算法的可行性。