二维材料石墨烯自首次在实验上证实可稳定存在后，因其独特优异的物理化学性质掀起了人们广泛的研究热潮。将石墨烯融入现代量子信息器件与电路中，获得基于石墨烯的磁性器件是其中一个重要的方向。石墨烯的磁性主要来源于由缺陷或边界引起的部分填充电子态，然而这种磁性相比器件应用的要求而言非常弱。为获得基于石墨烯的自旋电子器件，许多理论和实验工作致力于研究石墨烯上磁性原子的自旋态及团簇的耦合相互作用。本文的研究重点将围绕金属表面外延生长石墨烯上磁性杂质原子/团簇的自旋态而展开。主要研究了磁性原子、团簇在金属外延石墨烯上的磁学性质:单原子近藤效应以及团簇内原子间自旋耦合的基底调控。　　本研究分为五个部分：第一章介绍了磁性存储器件发展的历史，人们致力于利用微观原子尺度的原子自旋和磁耦合来增加存储器件中的数据存储密度。第二章讲述了一台极低温矢量磁场扫描探针显微镜(mk-9+2+2T-UHV-STM)的搭建及调试，包括减震台设计、仪器设备的工作原理及背景知识。结合强磁场条件，系统高的空间和能量分辨率使得我们可以在原子尺度上利用非弹性隧穿谱线研究磁性原子、团簇的自旋态信息。第三章研究了双杂质近藤效应中dI/dV谱线在弱耦合区间内随着两个杂质间横向距离变化时的关系。由于磁性钴原子的局域磁矩与基底Ru(0001)的传导电子具有强耦合作用，会在样品表面形成一个具有高近藤温度的Kondo单态，而通过在STM针尖上吸附一个磁性钴原子，可以在针尖上形成一个弱耦合低近藤温度的Kondo单态。当将近藤针尖置于Ru表面的钴原子上做谱，并朝远离Ru(0001)上钴原子中心方向横向移动时，会在得到的一系列dI/dV谱线中观测到谱线强度出现极小值的现象。利用STM隧穿方程，可以得到Fano拟合中g因子随横向距离的关系。考虑到在针尖移动的过程中，主要是隧穿通道在发生改变，而隧穿通道能直接反映在q因子中，因此，我们在实验上可以直观的通过对dI/dV谱线的研究获得弱耦合区间双杂质近藤系统内传导电子隧穿矩阵元随面内间距变化的关系。这对研究电子输运，特别是量子点器件中传导电子的输运性质具有重要意义。第四章利用极低温矢量磁场扫描隧道显微镜/扫描隧道谱(STM/STS)技术，以单晶Ru(0001)上的单层石墨烯为基底，通过其上外延石墨烯的摩尔周期结构来调制石墨烯的态密度和单个钴磁性原子的磁矩，在实验上首次观测到了石墨烯上磁性原子的近藤效应，并深入研究了它的位置依赖关系。理论计算表明对于Ru(0001)上外延的石墨烯，由于其摩尔周期不同区域与Ru基底的间距不同，将会对石墨烯电子态密度、石墨烯与钴原子的交换耦合作用能以及钴原子磁矩进行调制，从而可以实现对磁性钴原子近藤效应的位置调控。进一步研究对比了另一种磁性单原子锰在不同过渡金属单晶外延石墨烯上的结果。相比于Ru(0001)上石墨烯与基底的强耦合作用，在Pt(111)上外延的石墨烯与基底相互作用较弱，从而表现出类似于自由态石墨烯的一些特征。尽管文献报道了钴原子在Pt(111)上外延的石墨烯表面具有较弱的磁各向异性，我们发现单原子锰在极低温下却可观测到近藤共振，此时的近藤温度极低。通过改变石墨烯上磁性杂质近藤效应体系中的磁性杂质种类及不同的金属基底，结合第一性原理计算，较全面的介绍了金属外延石墨烯上磁性原子的自旋态研究。第五章研究了Ru(0001)上外延石墨烯上锰团簇的原子间耦合效应。Ru(0001)上外延石墨烯的六角格子可以提供构建纳米自旋磁子的理想基底，通过对锰原子的近藤效应，锰二聚体的单态到三重态跃迁的扫描探针显微谱(STS)研究，我们发现石墨烯摩尔周期结构可以对锰二聚体内的耦合类型及强度进行调制。理论计算表明，在一定范围内，逐渐增加二聚体内锰原子间距时，其耦合类型将由反铁磁耦合转变为铁磁耦合。这种耦合类型随距离变化将使得锰的三聚体具有更丰富的耦合构型。第一性原理计算表明，Ru(0001)表面的石墨烯上的三聚体有两类四种稳定的构型。结合磁场下的非弹性隧穿谱线及海森自旋堡模型拟合，可以确定三聚体内磁性原间的耦合强度。