基于Group Lasso的稀疏主成分分析

来源 :山东大学 | 被引量 : 0次 | 上传用户:tingchao12
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在处理高维数据时,由于过多引入变量会严重影响模型的预测精度和可解释性,因此如何从众多变量中准确筛选出对响应变量具有重要影响的自变量就显得格外重要。Tibshirani提出的Lasso方法通过惩罚函数对系数进行压缩来实现变量选择,因其良好的稀疏性和运算速度使之成为基本的变量选择方法之一。之后众多学者在Lasso方法的基础上提出了许多新的变量选择方法,其中Group Lasso是在考虑变量具有群组效应时对Lasso的一种推广。众所周知,主成分分析(PCA)通过使用少于变量个数的主成分来达到降维的目的,然而由于每一个主成分都是所有原始变量的线性组合,导致主成分的含义往往难以解释。稀疏主成分分析(SPCA)在PCA的基础之上,结合Lasso的惩罚函数实现主成分结果的稀疏性,大大提高了结果的可解释性。同时SPCA的思想也为PCA与变量选择之间构建了桥梁。考虑到SPCA及Group Lasso同Lasso之间的联系,我们将Group Lasso与SPCA合理结合,提出一种基于Group Lasso的稀疏主成分分析方法。本文第二章首先从几种经典的变量选择方法着手,介绍了这些方法的基本定义与性质。然后从惩罚函数的角度上,通过理论和图表分析,讨论了岭回归、Lasso和Group Lasso在不同维度的变量上惩罚强度的异同。最后为给下文的理论分析做好准备工作,我们结合Sparse Group Lasso方法,给出了一般情形下Group Lasso的求解算法。本文第三章首先介绍了 PCA的理论与基本步骤,并通过实例分析指出其结果存在不具备稀疏性,解释性差的缺点。然后在此基础上,分析了SPCA的主要思想,即先将PCA等价的转化为变量选择中的岭回归问题,之后添加Lasso的惩罚函数实现稀疏性。最后讨论了 SPCA的数值解法,并结合实例分析说明了该方法产生的稀疏结果可以大大提高模型的解释性。本文的创新点在于将Group Lasso同SPCA合理结合,提出了一种基于Group Lasso的稀疏主成分分析方法,并给出了相应的数值解法。通过实际数据和大量的模拟数据说明了当变量具备群组效应时,我们的新方法可以产生具有群组效应的稀疏结果,是对SPCA的一种合理的推广与改进。
其他文献
我同意令浚同志在会议开始时的工作报告,强调几点意见.一、外资登记机构两年多来围绕总局的中心工作较好地发挥了职能作用,为我国对外开放、促进外资企业的快速健康发展做出
无线应用协议WAP是实现移动通信设备与Internet网络集成的关键技术和研究热点.本文在分析WAP协议栈和应用支持模型的基础上,阐述了基于TCP/IP平台的WSP/WTP协议模拟原理及方
铁皮石斛是我国的名贵中草药,近几年来以铁皮石斛为原料开发的保健品日益走俏,野生石斛资源已濒临枯竭。目前市场上销售的铁皮石斛绝大多数为人工种植,实际使用中发现:种植产
工商行政管理机关是食品流通环节的主要监管执法机关。近年来,各级工商行政管理机关始终把食品安全监管工作作为头等大事来抓,采取了一系列有力措施,不断加大执法力度,取得了明显成效。但我国食品安全形势仍不容乐观,重大食品安全事件每年都有发生,反映在流通环节的问题依然很突出。广大消费者的食品安全意识、依法维权意识、积极参与打假意识以及食品安全法律意识还有待进一步提高。在食品流通环节,打假与售假、维权与侵权正
近年来,医改工作不断进行,“两票制”、“零加成”、分级治疗等各项医改政策不断推广实施,医药市场发展势头迅猛,因此医药行业内部竞争越来越激烈。医药行业的发展备受理论界
随着全球气候变暖和环境污染问题加重,世界各国都在制定相关政策推进可持续发展战略。热电制冷技术是一种将电能直接转化成热的无污染制冷技术,其零污染、零噪音等优点使得热
SQL Server数据库是一个系统软件,主要功能是对关系数据库进行综合性管理,由于数据库在进行管理时具有功能多、用户界面美观等优点受到社会各界人士的喜爱。因此SQL Server数
目的观察寒凝膏外贴配合牵引治疗腰椎间盘突出(寒湿阻滞型)的临床疗效。方法采用自身前后对照观察60例寒湿阻滞型腰椎间盘突出症患者经寒凝膏外贴配合牵引治疗4周后,疼痛评分及
【摘要】《夜行动物》由虚构小说、现实生活和往昔回忆三部分构成,多个文本空间相互作用,共同勾勒出电影的故事线索。导演运用既“疏远”又“吸引”的表现方式,为观众一层层抽丝剥茧,通过“戏中戏”的嵌套式叙事结构,在情节上完成了意象化的救赎和升华。本文试图通过探讨电影中的当代家庭伦理和性别意识,来解构电影中隐藏的权利关系和性别政治。  【关键词】《夜行动物》;叙事学;性别政治  于2016年公映的电影《夜行