论文部分内容阅读
传统的神经网络BP梯度学习算法存在着训练时间长、过度拟合训练样本和易陷入局部最优等问题。极限学习机具有学习时间短、算法简单容易实现、良好的泛化性能和能避免陷入局部最优等优点,已经成功应用于函数拟合和分类等应用领域。但极限学习机存在着所获得的网络结构比BP学习算法获得的网络结构复杂,对未知数据的响应时间长的问题。该文对极限学习机网络结构优化问题进行了研究,完成的研究工作如下：1.通过研究误差最小化极限学习机的网络结构冗余问题,认为原因在于其输入权重和阈值采用随机取值方式,不能保证上述取值的有效性。故将递归最小二乘法引入到算法中,用于计算每个结点的输入权重和阈值,从而得到了基于递归最小二乘法的增长型极限学习机(RLSI_ELM)。测试结果表明,在相同的分类准确度要求下,RLSI_ELM与EI_ELM及EM_ELM相比,能够在短时间内获得更加简化的网络结构。2.考虑到量子粒子群优化算法的较强寻优能力,将量子粒子群优化算法应用于极限学习机,用以确定网络结点的输入权重和阈值,替代原本的随机取值方式,提出了基于量子粒子群优化算法的极限学习机(QPSO_ELM)。实验结果表明,该方法可以获得更加有效的输入权重和阈值,简化网络结构。3.将QPSO_ELM方法应用于手写体数字识别中,构造了一个数字识别分类器。利用美国邮政手写数字数据集对数字识别分类器进行了识别测试,实验结果表明,相较于ELM和BP神经网络,QPSO_ELM可以达到更好的分类效果,而且QPSO_ELM的对手写体数字识别的训练时间也少于基于BP神经网络。