图像因其表现形式丰富和反映事物直观等优势,已成为大量信息的重要表现形式和人们获取信息的重要来源。随着信息时代的到来,人们更加关注与时俱进的图像分类技术,以便从大量高维图像中挖掘出更深入、更重要的内容。由于近年来深度学习的快速发展,基于深度学习的图像分类算法凭借其优越的性能逐渐取代了传统的图像分类算法。但这类方法通常需要大量且平衡的标记数据来训练网络以达到更好的分类效果。训练数据不足或不平衡极大影响模型性能,进而限制了这些方法的实际应用范围。因此,小样本学习和不平衡学习成为现今图像分类领域的研究热点。本文从深度学习方法出发,针对小样本和不平衡数据背景下的图像分类问题,分别围绕小样本数据下合成孔径雷达（Synthetic Aperture Radar,SAR）图像分类和不平衡数据下乳腺癌组织病理学图像分类两个典型问题,开展了以下工作:（1）针对小样本数据下SAR图像分类工作中传统卷积神经网络（Convolutional Neural Networks,CNN）模型方形卷积核计算量较大和对精细特征提取效果较差,以及随着网络深度增加分类性能退化的问题,提出了一种基于非对称并行卷积和残差学习的卷积神经网络（Convolutional Neural Network based on Asymmetric Parallel Convolution and Residual Learning,APCRLNet）。提出的非对称并行卷积结构可以提取SAR图像的宽度和高度特征,增强了模型的通用性。并且将基于跳层连接的残差学习方法应用在该问题上,提取图像深层次特征,更好地训练了深层网络模型。该模型在降低计算复杂度的同时提高了分类性能。在运动和静止目标的捕获与识别（Moving and Stationary Target Acquisition and Recognition,MS TAR）数据集上的实验结果表明,与 Basic-Net 和 RL-Net相比,APCRLNet在较少训练时间下获得了更高的识别准确率。APCRLNet无论在全部训练样本下还是部分训练样本下都有良好的分类性能。（2）针对小样本数据下SAR图像分类工作中原始胶囊网络（Capsual Network,CapsNet）模型损失函数仅关注SAR图像整体信息而忽略不同类间信息差异,以及高层语义信息缺失导致模型分类性能不佳的问题,提出了一种带类分离损失函数的多维并行胶囊网络（Multi-Dimensional Parallel Capsule Network with Class Separable Loss,MdpCaps-Csl）。提出的基于夹角余弦相似度的类分离损失函数可以在特征提取的过程中缩小类内差异和增加类间差异,增强网络对SAR图像的特征提取能力。并且多维并行胶囊模块分别将不同层次卷积得到的特征图作为输入,对不同的特征图进行胶囊编码,提高了网络分类性能。在MSTAR数据集上的实验结果表明,MdpCaps-Csl优于绝大多数传统机器学习方法和基于深度学习的方法,并且使用的训练样本越少,对比实验的效果就越明显。在极少量训练样本情况下,即使缺少不同旋转角度的训练数据,MdpCaps-Csl的分类性能仍然能达到较高水平。（3）针对不平衡数据下乳腺癌组织病理学图像分类工作中双边分支网络（Bilateral Branch Network,BBN）模型对精细空间特征提取效果不佳和低层结构特征缺失导致模型分类性能较差,以及通过经验人工预设加权参数存在较大的主观性和局限性的问题,提出了 一种基于元自适应加权的双边多维精细化空间特征注意力网络（Meta-Adaptive-Weighting-based Bilateral Multi-dimensional Refined Space Feature Attention Network,MAW-BMRSFAN）。该方法由分类模型双边多维精细化空间特征注意力网络（Bilateral Multi-dimensional Refined Space Feature Attention Network,BMRSFAN）和参数α学习模型元自适应加权网络（Meta Adaptive Weighting Network,MAWN）组成。提出的基于卷积长短期记忆（Convolutional Long Short Term Memories,ConvLSTMs）模型的精细空间特征注意力模块（Refined Space Feature Attention Module,RSFAM）可以提取乳腺癌组织病理学图像中更精细的病变信息,以提高网络在不平衡图像分类任务中的特征学习能力。并且MAWN可以建模平衡元数据集到不平衡数据集的映射关系,更灵活地为BMRSFAN找到合适的加权参数。在BreaKHis数据集上的实验结果表明,在不同的不平衡系数下,MAW-BMRSFAN的分类性能远优于目前提出的绝大多数方法。在极端不平衡情况下,MAW-BMRSFAN也能取得较为理想的分类性能。综上,本文从基于深度学习的图像分类技术出发,以实现其更好的实际应用效果为目标,对小样本和不平衡数据背景下的图像分类方法展开一系列研究,提高了其在不同研究问题上的分类性能和泛化能力。