随着控制科学与智能化的迅猛发展,无人机自主控制技术也日益成熟,已经成功应用在军事、生活等各个领域。地面目标跟踪作为一类过程复杂的集成问题,通过引入无人机来执行任务,可有效发挥无人机的优势,同时也对无人机的自主性、智能性与鲁棒性提出了更高的要求。野外山林环境作为无人机执行任务与作业的主要场景之一,以其复杂、恶劣的地形特征给无人机造成了较大困难。本文针对复杂野外山林环境下的多无人机地面目标搜索跟踪问题,重点围绕山林环境下多无人机协同搜索策略、对智能目标的协同跟踪策略以及如何提高无人机复杂作业的有效性展开了研究。首先,针对多无人机协同目标跟踪总体任务,进行了求解体系构建与基本模型建立。搭建了野外山林环境下无人机目标跟踪问题的研究框架,详细建立了该问题中涉及到的各类模型,包括无人机运动学模型、传感器观测模型等,分析了跟踪涉及的各类约束。同时,针对任务执行的复杂山林恶劣环境,利用地理信息系统、数字高程模型等工具进行了地形建模,有效处理了地形环境对无人机作业的负面影响。其次,针对多无人机目标跟踪前期的目标搜索过程,提出了可行的区块划分协同搜索策略,研究了多无人机协同任务分配与路径规划技术,对多个任务区域进行了多无人机最优分配,并利用改进的反向遗传算法与模拟退火算法完成了分配求解;同时针对复杂地形研究了航行过程中的禁飞区探测与规避航迹规划,利用了遗传算法进行了复杂地形的航迹规划,并与其它航迹规划方法进行了对比。再次,研究了基于编队的地面智能目标的协同跟踪问题,针对智能目标的运动特性进行了准确有效的描述与建模,引入了编队控制理论及方法,将被跟踪目标视为长机,即编队结构中心,将多无人机视为僚机,通过维持编队队形的稳定性,以保证多无人机对于智能目标的持续有效跟踪,采用了基于长-僚机制和势函数的编队控制方法,并进行了多机编队保持轨迹优化和李雅普诺夫稳定性分析。最后,本文以野外山林复杂环境为研究背景,如何提高多无人机系统在复杂山林环境中的适应性与作业有效性,是整个研究过程中贯穿始终讨论的问题。为进一步提高无人机在复杂环境下的安全性与作业效率,利用了图像处理方法,对山林环境下的道路信息进行了提取,缩小了无人机目标搜索范围,建立了更有利于无人机航行与作业的适航地图,提升了无人机系统的自主性与鲁棒性。