波兰数学家Z．Pawlak于1982年提出的粗糙集理论是一种新的处理模糊和不确定性知识的数学工具。其主要思想就是在保持分类能力不变的前提下，通过知识约简，导出问题的决策或分类规则。目前，粗糙集理论已成功应用于机器学习、决策分析、过程控制、模式识别与数据挖掘等领域。粗糙集在数据挖掘的过程中，主要用于数据挖掘的数据预处理部分。 然而，粗糙集作为一种有效的粒度计算模型，只适合于处理名义型变量，对于现实应用中广泛存在数值型数据却不能直接处理。需要采用离散化方法把数值型属性转化为符号型属性，而这种转换不可避免地会带来信息的损失，其计算结果在很大程度上取决于离散的效果。为了解决这一问题，本文主要运用三种方法进行有效的约简，进而利用改进的决策树方法（C—ID3算法）去做决策： 第一，我们利用条件熵来表示模糊等价关系矩阵的区分能力，这是我们建立的模糊粗糙集模型的一个关键点，依据条件熵，我们提出属性重要度的概念，接着建立了基于条件熵的约简算法，实验表明由该约简算法得到的更好的结果。 第二，考虑到1）当数据的区分性不太明显时，常常不能实现信息系统的约简；2）难以系统地将不确定性决策意识融入约简过程中，而如何排除噪音、削弱模糊信息的不确定性则是弥补这些不足的关键问题。基于这两方面的分析，本文从模糊信息的结构特征以及模糊决策的基本原理出发，在分析不确定性对约简的本质影响基础上，提出了模糊信息过滤的公理化体系，给出了几种具有良好结构特征的模糊信息过滤模式，建立了基于信息过滤和信息熵的属性约简方法FII—RED，并结合具体实例分析了FII—RED特性，结果表明FII—RED可以有效地将决策意识融入属性约简的过程中，具有良好的结构特征和可解释性，在一定程度上弥补了模糊粗糙集模型的不足。 第三，考虑到信息系统中模糊等价关系矩阵的不同，本着充分利用各种信息的原则，提出了极小混合熵的概念，建立了基于极小混合熵的属性约简方法，进而结合具体实例进行了比较分析研究，结果表明该方法具有良好的属性约简能力。 最后，我们提出了改进的ID3算法（C—ID3算法），基于粗糙集理论实现数据挖掘的目的就是为了得到有用的知识以指导决策，属性约简的最终目的也是为了得到有用的规则，一个好的规则提取算法可以对决策更加有利。而提取的规则必须符合实际应用，本文通过对决策树规则提取算法的研究，提出了改进的基于决策树的规则提取算法，在原ID3算法的基础上加入了数据预处理，同时考虑了父代规则对子代规则关联信息的影响。实验证明，可以将这种算法应用到现实生活中去。