【摘 要】
：
最优化是运筹学的一个重要分支，在经济、金融、工程、管理、军事与国防等诸多领域有广泛应用.特别地，它是机器学习与人工智能的关键技术.随着大数据时代的来临，数据规模越来越大
论文部分内容阅读
最优化是运筹学的一个重要分支，在经济、金融、工程、管理、军事与国防等诸多领域有广泛应用.特别地，它是机器学习与人工智能的关键技术.随着大数据时代的来临，数据规模越来越大，数据维数越来越高，现有最优化算法面临运算速度慢、计算量大的挑战.如何设计出快速有效的算法，是当今国际国内的一个热点研究课题.本文围绕机器学习中的一类随机优化算法进行研究，提出了一种新式快速算法. 本文首先介绍了研究背景及意义，并对前人所提出的针对大规模优化问题的两类算法作出概述，然后在比较和总结前人研究的基础上，提出了基于GS准则的小批量块坐标下降法.该算法具有如下特点:(1)给出了块坐标情形下的GS准则，通过该准则选取特定坐标块，使得算法在每一迭代步有最优的目标函数下降量;(2)结合随机梯度下降法的思想，通过随机选择部分样本计算局部梯度作为对全局梯度的近似，以达到减少计算量的效果，并且通过引入方差缩减技术，使得由随机选择样本所带来的方差渐近收敛至零;(3)在每轮迭代步选取梯度中单个坐标块来更新参数，从而进一步减少计算量. 本文基于4个真实数据集展开数值实验，从时间、计算量和稀疏度等方面比较不同算法效果，数值结果表明本文提出的算法对于求解大规模高维优化问题中的经典Lasso问题、稀疏逻辑回归以及多类别稀疏逻辑回归具有高效性与快速性.同时，本文还给出了以Python语言编写的算法软件包.
其他文献
本文对于乘法口诀的整体结构的优化方面内容进行了阐述,同时对于如何利用乘法口诀的系统思想方法引导学生进行探析,最后结合实际经验,对于如何利用多种方式来帮助学生们掌握
以还原论方法论为基础的近代物理学取得了极大的成功,并且导致了一系列现代科学技术的产生与发展。然而,典型的复杂系统,例如生命系统和社会系统,由于存在自组织和自适应的特
遗传算法是模拟自然界生物进化机制的概率性搜索算法,可以处理传统搜索方法难以解决的非线性问题。但是经典遗传算法存在局部收敛、收敛速度慢等缺点,这使得经典遗传算法有时
非线性微分方程边值问题是微分方程理论研究中的一个重要分支，它在数学、物理学和控制论等研究领域有着广泛的应用背景。近几十年来，微分方程边值问题解的存在性和多解性得到广
模糊推理是模糊数学应用研究的一个重要分支。模糊推理结果与选用的蕴涵算子密切相关，蕴涵算子不同，所得结论常常不同。人们针对实际问题提出了多种形式的蕴涵算子。因此，蕴涵算
在这篇论文中，主要研究了Hilbert空间和Hilbert C*-模上的算子值框架. 所做的主要工作如下：首先, 在Hilbert中, 对于给定的算子值框架及相应的条件，我们给出了构造一个新算子值
请下载后查看，本文暂不支持在线获取查看简介。
Please download to view, this article does not support online access to view profile.
请下载后查看，本文暂不支持在线获取查看简介。
Please download to view, this article does not support online access to view profile.
分层教学是一种符合因材施教原则的教学方法。她旨在面向全体学生，为学生的全面发展创造有利条件。有利于所有学生整体英语素质的提高。尊重每个学生身心发展特点和教育规律，采
随着科技的飞速发展以及计算机应用的普及，Jacobi矩阵的逆特征值问题在力学，工程结构设计以及当今数学等领域大放光芒.本文在此基础上，进一步研究了两类广义Jacobi矩阵逆特征值