在卷积神经网络的赋能下,软件应用能够提供更加多样化与定制化的服务。卷积神经网络是基于大量数据训练构建的,整个网络可以看作一个黑盒,使得工程人员很难分析与理解卷积神经网络的行为。本项目基于此现状,构建了卷积神经网络可视化系统,帮助工程人员方便地理解与评估卷积神经网络模型。本文主要描述了卷积神经网络可视化系统的需求分析与总体设计,以及系统核心模块的实现方式。本文首先描述了卷积神经网络模型的相关应用背景,由此引出增强工程人员对模型的理解的重要性,并介绍了国内外提高卷积神经网络模型可解释性的研究情况。然后介绍了本系统开发过程中涉及的相关概念与技术,以及选用该技术时的考量。接着对卷积神经网络可视化系统的需求分析以及总体设计进行了介绍,并按照功能对模块进行了划分,给出了各模块的接口规范。最后,本文描述了系统核心模块的详细设计与具体实现,并展示了功能的实现结果,还对系统的各项功能实现进行了详尽的测试与调研。为了给工程人员提供理解与评估卷积神经网络的手段,本项目主要提供了以下功能:1)可视化卷积神经网络的结构,包括神经元、网络层以及层之间的连接;2)可视化输入数据在层之间传输的动态过程,工程人员可通过点击、旋转等方式查看网络层与神经元的状态,以及实现模型的变异;3)整合现有的对抗攻击算法,根据输入数据生成对抗样本以供测试;4)比较不同输入在同一网络下的中间层输出;5)训练局部代理模型以生成支持预测结果的解释性标注图。本文为验证系统功能进行了用户调研,要求参与者在1小时内完成4项任务,参与者均能在30分钟内完成。对于理解模型结构与预测过程的任务,参与者均能使用可视化功能在2分钟内完成。对于比较中间层输出的任务,参与者均选择使用本系统提供的多图片对比功能完成,平均耗时6分24秒。对于识别关键特征的任务,使用本系统提供的图片关键特征标注功能的参与者比未使用的节约了40%时间,且描述内容更为具体。