异常检测是图像处理和模式识别领域的重要应用之一。利用图像处理和机器学习算法对图像进行分析，检测出图像中的异常部分，不仅能够减轻人工处理的工作量、克服不同操作人员之间的主观性差异，而且还具有灵敏度高、检测率高、误检率低、快速准确等优点，因此越来越多地应用于医学图像处理等不同场合，具有广阔的应用前景。本文在分析一般的图像异常检测算法的基础上，针对两种特定的应用-骨扫描图像和公安安检图像进行了深入的研究并取得了一系列的成果。为了开发核医学科全身骨扫描图像计算机辅助诊断系统，作者在研究国内外研究现状的基础上，首先针对骨扫描的脊柱和肋骨后身图像，提出了一种新的自适应热点检测算法。继而针对全身的其他部位，分别提出利用本底和对称性等特征进行热点检测。在热点检测算法的基础上，本文进一步讨论了骨扫描图像热点和病人的分类识别算法，通过特征提取和贝叶斯分类学习等，给出病人存在肿瘤骨转移的概率。实验结果表明，本文所提出的检测算法，对于脊柱和肋骨部分的热点检测的准确率达到了93.1%，同时能够减少系统的假阳性检测。最后在此热点检测和分析识别算法基础上开发的骨扫描计算机辅助诊断系统，已经在临床上试用，能减轻医生读片的负担和主观性差异。同时，本文针对公安安检系统中的双能透视和背散射图像，提出了新的物质分类和违禁物检测算法。首先针对高、低能透视图像，利用SVM分类器实现对有机物、无机物和混合物的分类。然后在透视图像和背散射图像配准和数据融合的基础上，通过SVM分类器进行物质的细分和危险物品的检测。实验结果表明，与现有的算法相比，基于机器学习的物质分类和危险物品检测算法能极大的提高算法的准确率，满足实际的安检系统的需求。