近年来,深度学习在许多领域取得了突破性的进展,然而,以应对日趋复杂的人工智能场景,深度学习模型的计算与存储复杂度逐渐提高,对于计算资源与功耗的需求显著增大。由此,当前应用于嵌入式等资源不足的设备上的深度学习程序通常向服务器端（云端）请求得到计算服务。然而,这种依赖于云端的模式存在数据传输成本、时延与稳定性、特别是隐私担忧等挑战。而将深度学习模型的计算部署到嵌入式设备上成为主要解决方式。因此,如何对深度学习模型进行压缩与加速成为一个研究热点。其中,二值量化神经网络以其极低的参数存储以及高能效的位运算方式等优势引起了较大关注,并取得了一定研究进展。然而,当前二值神经网络仍然存在如下挑战。一方面,极致的二值量化使得神经网络表达能力下降、准确度降低。另一方面,当前二值神经网络结构不够高效,仍然有进一步压缩的可能。针对上述的问题,本文以图像分类任务为应用场景,提出了两种对应的方法。就准确度而言,提出了一种新型自适应量化方法,减少了网络准确度损失;针对复杂度问题,提出了一种紧凑二值神经网络,在不损失网络准确度的情况下,进一步降低了网络的计算需求。本文的主要贡献如下:（1）提出了一种自适应可学习的二值量化方法。针对当前二值量化方法存在的不足,提出使用一个带参数的神经编码器代替传统使用的符号函数用于神经网络权重参数量化,该编码器可以在训练中学到更优的量化策略。根据权重通道内元素的相关性,设计了两种神经编码器。借鉴于知识蒸馏的思想,引入分布损失进行二值神经网络训练。通过最小化最终的损失,二值神经网络与神经编码器可以端到端训练更新。实验表明,提出的方法可以有效的减少网络的准确度损失,在ImageNet数据集上,相比于基准网络提升1.9%的Top-1准确度,相比于最新研究可以提升1.4%的准确度。同时,该方法可以提高二值神经网络训练的稳定性与速度。（2）提出了一种紧凑二值神经网络（MicroNet）。针对当前二值神经网络存在的计算复杂度问题,引入了一种轻量化卷积结构,分析了直接二值量化存在的问题,设计了一种信息增强二值卷积模块,其中包括添加旁路残差连接,以及使用分组卷积替换深度卷积。由此减少了二值量化导致的信息损失,并且通过控制分组卷积的分组数,得到准确度与计算复杂度之间的平衡。最后,根据信息增强模块,构建了紧凑二值神经网络:MicroNet。实验表明,相比于传统二值神经网络,MicroNet可以在相近准确度的情况下,取得更低的计算复杂度。