健壮有效的决策树改进模型及其应用

来源 :上海财经大学 | 被引量 : 0次 | 上传用户:safafaffaf
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
决策树是解决分类问题最有效的方法之一。该技术通过构造树来建立分类处理模型。如何构造健壮有效的决策树,仍然是决策树模型研究与应用中所面临的一项挑战。 对于决策树模型,一般而言,可以依据预测准确率、速度、健壮性、可伸缩性和可解释性等标准对其进行比较和评估。在众多决策树模型中,实验研究证实,J.R.Quinlan的C4.5决策树模型很好满足了上述的比较和评估指标,而且还是驻留内存分类算法中,提供较高预测准确率及较高效率的分类器模型,因此得到业界的普遍肯定,常常作为分类问题研究与分析的参考基准。 在对C4.5决策树模型进行详细分析后,不难发现C4.5尽管在速度与预测精度等方面占有优势,但在构造一棵较小的树方面却处于劣势。针对C4.5决策树的固有不足,如存在空枝问题、易于形成过度拟合等,该文提出了一种健壮有效的决策树改进模型:R-C4.5决策树模型。该模型基于C4.5决策树模型,但在分枝过程中,合并信息熵值较高的部分分枝。根据熵的定义,熵值越大,子集划分的纯度越小,R-C4.5将那些对划分无贡献的分枝合并,有效减少了无意义的分枝,避免了碎片问题,控制了树的大小,提供了较高的预测准确率。并且,R-C4.5决策树模型自然解决了倾向选择具有较多值的属性作为测试属性的问题。该文还提出了R-C4.5决策树模型的优化版本R-C4.5c和简化版本R-C4.5s。 为了验证R-C4.5的健壮有效性,该文从数据挖掘研究者经常使用的UCI数据库中选择了8个数据集进行说明比较。这8个数据集的样本数从数百条到三万多条不等,可以体现R-C4.5在不同数量级别数据集上的分类能力。实验证明R-C4.5是一个对大多数数据集而言更简单、更有效的决策树模型。 与C4.5相比,R-C4.5生成的树在健壮性方面有了明显的提高,R-C4.5有更加强壮的根部和更加粗壮的分枝,减少了出现过度拟合的可能。通过对缺失数据的灵敏度分析,实验发现随着数据集中缺失数据比率的增加,相对于C4.5,R-C4.5对缺失数据不敏感,预测准确率的下降趋势较C4.5缓慢,这也从另一个方面证实了R-C4.5是一个健壮有效的决策树模型。 该文还成功地将研究结果运用在临床医疗数据和电信数据的探索性数据分析中,对住院病人的住院持续时间以及电信业客户流失状况进行了预测。
其他文献
针对旋转二级倒立摆受到的未知有界持续扰动,提出了一种约束非线性H∞鲁棒预测控制策略。首先,对离散化系统进行输入状态稳定性分析;其次,设计预测控制的控制律,并给出相应终
本文就课堂管理现状与策略论题,阐明了课堂管理概念;分析了课堂管理现状;论述了课堂管理措施.
In this paper,we have improved delay-dependent stability criteria for recurrent neural networks with a delay varying over a range and Markovian jumping paramete
在当前的企业信息化过程中,涌现出大量的工作流产品,并且仍不断有新的工作流产品走入市场。为了实现不同产品间的协同交互,国际工作流标准化研究组织(WFMC)规定了工作流管理系统(WFMS)的主要组成部分及其相互之间的接口规范,同时还制定了XPDL标准工作流过程描述语言及其规范。这些工作在一定程度上解决了某些复用和交流的问题,但仍然存在许多问题:五大接口的定义只是一种广泛意义上的功能要求;XPDL只能使
“互联网+”背景下,由于高校大学生群体的行为、思维、心理等方面特征不一,如何培育大学生价值观已成为新形势下的必然趋势.本文阐述了在“互联网+”背景下,高校大学生价值观
新如今人们的生活水准提高了,更加注重在吃方面的营养性,这就更速了对于畜牧业的发展,而畜牧业的发展必定要使兽医技术更加先进,管理体制更加健全,这样才会推动畜牧业的发展,
小学综合实践活动学科具有实践性、开放性、自主性和生成性.小学综合实践活动学科要打破传统的课堂模式, 在知识讲解的基础上要有新突破,不仅有效激发了学生兴趣,还要促使学
运动休闲特色小镇作为体育产业的创新载体,是我国发展势头强劲的朝阳产业形态,在全面对接与融合文旅产业、健康产业的实践探索中,为体育强国建设提供了空间和平台,是实现体育
全面提高高职学生思想文化素养,是高职院校学生思想政治工作的途径和目标.论文以广西电力职业技术学院为例,从高职院校学生日常行为管理角度和高职院校学生特点出发,通过对高
面对当前生产经营日益严峻的新形势,企业思想政治工作只有坚持观念、内容、方法和队伍不断创新,才能更好地为企业改革发展服务.这就要求企业思想政治工作必须适应新形势和新