多目标问题(Multi-Objective Problems),是科学研究和工程应用中经常遇到的一类问题。它一般包含多个相互冲突的子目标,要找到满足所有这些目标的最佳设计方案,就要解决多目标和多约束的优化问题,即多目标优化问题(Multi-Objective Optimization Problems, MOPs)。与单目标优化问题不同的是,多目标优化问题的解不是唯一的,而是构成一个集合。多目标演化算法(Multi-Objective Evolutionary Algorithm, MOEA)是一类基于群体启发式搜索的智能算法,一次运行可以得到多个可行解,因此非常适合求解多目标优化问题。传统的多目标演化算法采用交叉变异等操作繁殖个体,并采用一定的机制将较优个体保留下来,如此迭代直到得到问题的解。但它们仍然存在许多不足：(1)直接采用单目标遗传算法中的交叉、变异等遗传操作,而忽略了当算法接近收敛时,盲目进行交叉变异等操作对算法性能产生的不良影响；(2)对于许多多目标问题,其Pareto解集在决策空间的分布具有一定的规律,而传统的交叉变异算子作用于种群中的各个个体间,并没有有效地利用该分布规律。分布估计算法(Estimation of Distribution Algorithm, EDA)是另一类优秀的智能优化算法。与传统的演化算法不同,它没有交叉变异等操作,而是通过对当前种群的分布建立一个概率模型来繁殖个体。分布估计算法很好地利用了种群的分布信息和算法运行的历史信息,受到了专家学者的广泛关注。2007年,张青富等人提出一种基于规则模型的多目标分布估计算法,该算法很好地利用了Pareto解集在连续多目标问题上的分布规律,即“对于某一类连续的多目标优化问题,其Pareto解集是一个分段连续的m-1维流形,其中m是目标函数的个数”。通过与GDE3、PCX-NSGA-Ⅱ和MIDEA三种算法在一系列测试函数上的实验对比,表明算法具有很好的效果。然而基于规则模型的多目标分布估计算法也存在一定的不足,如需要划分聚类、概率建模的过程复杂,运行耗时较多等。特别地,在算法初期,种群分布还未呈现一定的规律时,采用概率模型产生新个体往往会使搜索方向与实际目标搜索方向相差甚远,另外,该算法也没有有效地利用个体的局部信息。本文基于以上研究背景,提出一种基于流形学习的多目标分布估计算法。为了更好地利用种群的流形结构,本文引入流形学习的方法,利用自组织映射(SOM)来学习种群的流形结构。同时算法使用一个自适应策略有效地结合SOM建模操作和遗传操作,在算法的早期较多个体由遗传操作产生,在后期个体则主要由SOM建立的流形模型产生。算法既使用SOM来利用种群的全局信息,又使用遗传算子来利用个体的局部信息,因此本算法有效地结合了多目标演化算法和多目标分布估计算法的优势。在分析了常用的测试函数集的构造方法和特性以及常用的几个性能度量指标后,为了检验算法的性能,本文使用三类：变量无关联、变量线性关联、变量非线性关联的测试函数来全面度量算法的性能。通过与NSGA-Ⅱ、RM-MEDA对比,在变量无关联的问题上,本文算法在收敛性和IGD指标上都比其他两种算法略好,RM-MEDA在多样性上最好。对于有变量线性关联的问题,在收敛性指标、多样性指标和IGD指标上,RM-MEDA和本文算法表现均远远好于NSGA-Ⅱ。对于变量非线性关联的问题,RM-MEDA表现最好,本文算法与RM-MEDA接近,而使用传统交叉变异操作的NSGA-Ⅱ在多样性方面最差,很难找到整个Pareto最优前沿。总的来说,本文提出的算法在各种测试问题上的表现都不错,通过引入SOM来学习Pareto Set的流形结构不仅是一个思路上的创新,实践上也证明是可行的。