机器学习如今越来越广泛地出现在人们的视野中,分类问题是机器学习技术的一个重要应用。现实中的分类问题中很多属于不平衡问题。针对不平衡问题,人们一般从数据预处理、修正算法、预测后处理三方面进行解决,其中数据预处理中较为经典的有SMOTE过采样方法,以及针对该方法的不足而提出的RWO-Sampling算法。本文基于两个方面对RWO-Sampling方法进行改进,一是依赖相关系数矩阵划分相关变量对,二是使用变量聚类的思想划分相关变量组,从而提出了EROS方法与VC-EROS方法。在划分相关变量组或相关变量对后,本文通过产生多元正态分布随机数的方式衍生新样本的变量值,对于未被划分的变量,视作独立变量,使用RWO-Sampling方法的变量衍生原理衍生新的值。其中VC-EROS方法可根据实际情况调整每组的变量个数上限。对于所提出的新方法,本文依照变量间相关程度不同(变量完全独立、部分变量相关、所有变量两两相关)以及样本所服从的分布不同(多数类与少数类服从于参数不同的正态分布,多数类与少数类服从与参数不同的卡方分布,多数类样本服从正态分布而少数类样本服从卡方分布)设计了多组模拟实验进行验证,并应用到了医保骗保识别的现实数据中。结果表明EROS方法与VC-EROS方法均对RWO-Sampling方法的原假设进行了有效的放松,且VC-EROS方法效果更好。除此之外,本文还将VC-EROS方法与AdaBoost的思想进行结合,形成新的Data-sampling IDBoosting方法——VCEROS-Boost。经验证,该结合对分类器的准确性有较大的提升作用。