随着移动互联网的快速发展,手机已经成为了人们上网的主要设备;而在手机操作系统中,安卓占比达到了82.8%。安卓操作系统在流行的同时,也成为了黑客攻击的主要目标;相应的,安卓安全领域的研究吸引了更多的关注。现有研究多关注于安卓恶意应用与良性应用的区分,对安卓恶意应用的家族分类关注较少,而单纯的检测是否恶意应用并不能完全防止其危害。因此,研究安卓恶意应用家族多分类问题,能够帮助检测、预防恶意软件的危害,对于安卓系统的安全有着积极的作用。本文的具体工作如下:1.提出并实现了彩色可视化安卓应用的方法,并结合深度学习在恶意家族分类方面进行了实验。针对灰度可视化图像在恶意应用分类方面的研究,及其在结合深度学习技术方面的不足,采用彩色可视化图像结合深度学习技术提出新的分类方法。通过与灰度可视化方法的对比试验验证了彩色可视化方法的有效性。2.研究了不同特征对于彩色可视化分类的影响,基于检测准确率与检测时间对三种不同特征进行了实验,得出了最优的特征集合。使用不同的特征进行彩色可视化,研究不同特征对于检测准确率与检测时间的影响。3.设计并实现了安卓恶意应用家族的多分类器,可以对常见的13 1个家族进行分类。针对恶意家族分类困难的问题,现有方法很难在多家族且家族特征有重叠的情况下达到较高的准确率。我们使用彩色可视化结合卷积神经网络与深度残差网络,试验了在50个恶意应用家族与131个恶意应用家族中两种深度学习算法的准确率,最终实现了多家族分类器,可以对常见的127个家族进行分类,取得了96.36%的分类准确率,能够很好地分类安卓恶意应用家族。