随着网络上的信息量迅速的增加,如何有效的处理和组织这些文本数据,成为当前研究的重要课题,文本分类是其中的核心课题之一。文本分类的任务是在给定类别标签的前提下,根据文本的内容对文本进行分类。文本分类在自然语言处理与理解、信息检索、内容信息过滤等领域都有着广泛的应用。目前文本分类的模型已经趋近成熟,但并不是说已经到达完美的状态,仍然是有一些问题需要改进。文本分类中关键的两个部分是特征降维和分类方法,特征降维的方法分为特征选择和特征抽取两类。本文从机器学习的角度出发,主要关注点在特征选择方法和分类方法的研究。关于特征选择方法的研究,基于信息论熵性质提出了一种新的特征选择方法。该方法对特征定义两个概念用于特征过滤：样本熵、类别熵。方法结合现有的特征选择方法如互信息等使用,迭代的使用样本熵和类别熵过滤特征项,得到维数更小的特征子集,但在分类应用的时候却能取得更好分类效果。关于分类方法的研究,考虑到SVM良好的性能和集成学习的优点,提出了一种改进的SVM集成方法。该方法基于已有的SVM集成方法,结合文本分类问题的特性,在SVM训练和结果集成上进行了改进。该方法在不同的特征空间上训练多个SVM。对样本分类的时候,根据样本在不同特征空间上可分性选择一个SVM对其进行分类。实验证明,该方法能取得比单个SVM更优的分类结果。