仪器化压入测试作为一种表面微区、微损的力学测试技术，是检验微纳米尺度材料力学性能的重要方法。在宏观尺度下，材料硬度基本为恒定值，而在微纳米尺度，压入硬度会出现随压入深度减小而增大的尺寸效应。而现有的观察到的硬度尺寸效应和所提出的理论大都限于数百纳米和更深的压入范围，如应变梯度等理论基于传统塑性理论，并引入诸多假设，如假设几何必需位错区域或引入了微米量级的特征尺度，无法预测小于100 nm压深的硬度尺寸效应;另一方面，对于压深小于100 nm的压入实验，目前缺少系统可靠的纳米硬度结果。总之，对于纳米硬度的尺寸效应规律和机理目前尚缺乏全面的认识。作为评价材料力学性能的一个重要指标，可靠的纳米硬度结果对材料纳米力学行为的认识，以及对微结构、薄膜涂层和表面改性层新型材料的设计，都具有重要的科学意义和应用价值。所以，本文从实验、模拟和理论三个方面对纳米硬度的尺寸效应进行分析，目标是确认可靠的纳米硬度规律，揭示硬度尺寸效应的来源和机理，提高仪器化压入技术在纳米尺度力学测量上的可靠性，为发展新的测试分析方法奠定基础。　　具体研究内容如下:　　（一）在单晶铜上系统开展了压深小于100 nm的压入实验。(1)获得了单晶铜样品100 nm以下压深的硬度测量结果，实验确认了随压入深度的增大，硬度先增后减的尺寸效应，弹性模量则无明显尺寸效应;(2)研究了压头曲率对硬度测量的影响，实验结果表明，随着曲率半径的增大，硬度及其峰值降低，而峰值对应的深度增大;(3)纳米压入载荷曲线存在台阶，通过对比载荷和硬度曲线的变化规律，发现载荷曲线的台阶对应硬度曲线跌落段，初始台阶起点对应硬度的峰值点，载荷曲线中不同模式对应的物理机制与纳米硬度变化规律紧密相关。　　（二）对单晶铜的纳米压入过程进行了系统的分子动力学模拟研究。(1)通过千核级并行计算，使体系的最大尺寸达到180 nm×180 nm×86 nm、最大压深16 nm、压头的最大曲率半径达100 nm，获得了单晶铜在不同温度、晶向和压头尖端曲率半径下的纳米压入模拟结果;(2)硬度模拟结果表现出先增大后减小的硬度尺寸效应，与实验结果一致;(3)压头曲率半径的增加同样引起硬度及峰值的降低，硬度峰值的对应深度随之增加;(4)不同晶向的模拟结果表明，在模拟压深尺度内，晶向对纳米硬度影响很小，硬度没有表现出明显的各向异性。　　（三）基于分子动力学和有限元方法模拟，研究了材料表面效应对硬度测量的影响。(1)针对FCC单晶材料的分子动力学模拟表明，采用不同势函数的材料表面原子层间距会呈现相反的分布趋势（外疏内密或外密内疏），因而表面局部弹性模量呈现外软内硬或外硬内软的分布;(2)通过分析原子单侧受力情况，阐明了原子单侧受力决定表面层间距分布的趋势，并最终确定了单晶铜的表面层厚度（为5-6个原子层，约1 nm）;(3)基于材料表面局部弹性模量的变化，采用有限元方法，模拟了在不同压头下具有弹塑性梯度表层材料的压入过程，结果表明，梯度表层的引入导致硬度峰值的产生和增大，但材料表层的存在对纳米压入的硬度峰值高度的量级、硬度影响范围和尺寸效应范围都较小(小于5 nm)。　　（四）基于实验和模拟结果，阐明了纳米硬度尺寸效应的机理。(1)通过分析压入过程中位错的演化，确认了位错的运动和演化是载荷和硬度变化的内在诱因;(2)压入载荷的台阶与位错的剧烈变化事件相对应，而初始台阶对应微观位错核的突然长大或初始位错面的形成，即材料的微观弹塑性转变点;(3)计算了宏观弹塑性转变点，并通过比较不同曲率半径的宏观塑性转变点与峰值点之间的关系，确认了硬度峰值点即对应宏观弹塑性转变点;(4)对尺寸效应的机理做出解释:硬度的上升段对应宏观弹性变形;峰值之后的硬度下降缘于位错随压深增大持续演化，位错对压头斥力部分影响明显，使硬度的斥力分量占主导作用。　　（五）分析和讨论了Nix-Gao模型的适用性和修正参考方法，并探索性研究了表面粗糙度和材料表层氧化对尺寸效应的影响、以及其他FCC单晶的纳米压入情况。实验表明，对于纳米硬度的规律，Nix-Gao模型不再适用，但通过特征长度修正和位错密度计算给出了两种解释和预测尺寸效应的参考方法。分子动力学模拟结果表明，随着表面粗糙度的增大，压入载荷和硬度幅值都会降低，同时硬度峰值对应的压深增大。对具有表面氧化层的单晶铜样品进行的实验测试也显示了类似的特征。模拟结果显示单晶Au等具有与单晶铜一样的纳米硬度尺寸效应规律，预示着FCC单晶的纳米压入具有一定普适性。