纳尺度传热在微机电系统、微电子冷却、热电制冷等方面有着广泛的应用前景,该方面的研究对于探索微观运动传递规律具有重要的科学意义。随着热构件尺寸不断微型化,热构件尺寸与粒子平均自由程的量级相当,这导致尺度效应对热构件传热行为的影响作用越来越突出,其影响机理日益受到人们的重视。目前,纳尺度传热已成为国际微纳米尺度传热传质领域的一个前沿研究热点。在纳尺度系统中,热量传递发生在一个受限的纳尺度空间中,导致传热过程中表现出显著的固-固界面效应和流-固界面效应,这使得纳尺度热传导和气液相变有着独特的微观传递机制,例如纳米复合材料的声子热传导和粗糙表面的液膜蒸发。目前,纳尺度传热中界面效应尚未得到全面揭示,特别是纳米复合材料热导率和粗糙表面液膜蒸发过程缺乏深入的研究。再者,纳米复合材料导热率的结构调控和粗糙表面的定量描述也亟待展开。为此,本文引入分形几何,实现了纳米复合捌料的结构优化设计和粗糙表面形貌的描述构建,分别建立了Si/Ge纳米复合材料声子热传导和粗糙表面气液相变传热的纳尺度理论模型,并采用分子动力学方法研究了Si/Ge纳米复合材料的热导率和粗糙表面液膜蒸发传热机理。概括起来,本文的主要研究内容和研究结论如下：(1) Sierpinski分形结构纳米复合材料热导率的分子动力学模拟研究表明：(a)Si原子百分比相同条件下,由于嵌入Sierpinski分形的纳米复合材料的分散布置增强了界面散射,其热导率明显低于嵌入矩形结构纳米复合材料；(b)受硅／锗界面散射影响,Sierpinski分形纳米复合材料热导率随着Si原子百分比的增加而减小,达到最小值后随着Si原子百分比的增加而增大；(c)Sierpinski分形纳米复合材料热导率在轴向方向存在尺寸效应,热导率随着轴向长度Lz的增加而增大,受声子运输模式的影响,热导率随截面尺寸的增大而增大。(2)分形树状结构纳米复合材料热导率的分子动力学模拟研究表明：(a)相对于传统的矩形结构,分形树状结构具有较大的固-固界面密度,导致强烈的声子界面散射,使得分形树状结构在减小纳米复合材料热导率和提高热电材料热电优值方面具有优势；(b)分形树状纳米复合材料中结构设计中,宜选用更大的宽度维数、长度维数和级数。应用分形树状结构是优化纳米复合材料结构设计的有效方法。(3)分形粗糙表面液膜蒸发的分子动力学模拟研究表明：(a)在固体表面附近存在不蒸发液体层。表面粗糙的存在增强了固体表面对液体分子的束缚能力,使得不蒸发液体层加厚,并随着粗糙高度增加不蒸发液体层将加厚：(b)即使在相同粗糙高度下,表面分形维数(即粗糙轮廓不规则程度)也是影响液-固界面能量传递一个重要因素。分形维数的增加,粗糙表面高度变化愈频繁,这也导致粗糙表面的不蒸发液体层加厚；(c)固体表面液膜蒸发速度随着粗糙高度和分形维数的增加而加快。