自谷歌和亚马逊在2006年首次引入“云计算”的概念以后,云计算作为一种新型的计算模式迅速发展并成为一种重要的计算基础设施。外包计算作为基本的云计算服务模式,它可以允许企业、组织和个人租用具有强大计算和数据存储能力的云平台来完成本地端的计算任务,从而极大地减轻了用户的计算负担。然而,用户数据的敏感性和云服务器的不可信任性给这种富有前景的计算模式带来许多安全挑战。一方面,用户的数据通常包含一些隐私信息,一旦泄露可能会导致用户财产的巨大损失;另一方面,云服务器出于经济利益,可能故意获取并泄露用户的敏感信息,甚至伪造计算结果来欺骗用户。因此,如何设计保护用户敏感信息并能检测云服务器恶意行为的安全高效的外包算法具有重要的理论与应用价值。本文研究了云环境下大规模矩阵的Hermite正规型和大规模数据的DBSCAN聚类的外包计算问题,提出了两个切实可行的安全高效的外包算法。（1）Hermite正规型（Hermite normal form,HNF）,作为整数矩阵的一种标准形式,不仅在求解整数线性方程组时具有重要作用,而且在许多其他领域也有重要应用,比如整数规划和基于格的密码学。然而,现有的求解算法在HNF计算过程中出现的系数快速增大现象使得计算非常耗时。同时,在实际应用中需要处理的整数矩阵规模往往很大,因此研究云辅助下的HNF求解算法具有重要的实际意义。本文研究了云环境下HNF的计算问题,首次提出了一种安全高效的外包算法。该算法使资源受限的客户端能够安全地将计算HNF这一繁重的任务委托给资源丰富但不可信的云服务器去计算。通过综合运用随机置换、幺模矩阵变换和三角矩阵变换,本文设计了一种新颖的整数矩阵加密方法,使得算法不仅能保护客户端的输入/输出信息,而且客户端能够以最优概率1检测到云的欺骗行为。除此之外,通过严格的理论分析和大量的实验验证了该算法的有效性和实用性。随着问题规模的增加,利用本文设计的算法客户端的成本节省也是显著增加的。（2）DBSCAN（density-based spatial clustering of applications with noise）算法是目前最流行的数据聚类分析技术之一。由于DBSCAN不需要事先确定簇的数目,并且可以自适应地发现形状不规则的簇和离群点,因此在机器学习和人工智能中得到了广泛的应用。当用户执行大规模数据聚类算法时,受限于有限的计算和存储能力,客户端可以通过将计算任务外包给资源丰富的远程云服务器来减轻本地的计算负担。然而,云服务器潜在的不可信任性可能会引发许多安全问题。针对这一问题,本文设计了一种基于诚实但好奇的云服务器模型的DBSCAN聚类的隐私保护外包算法。设计的核心思想是一种基于置换映射、平移变换和Householder变换的新型高效数据加密技术。利用该加密技术的良好特性,通过严格的理论分析,证明了算法的正确性、安全性和高效性,并通过大量的实验对算法的实际性能进行了综合评估。