纳米科学与技术是当今前沿基础科学和高新技术研究中最具有发展潜力的领域之一。在纳米科技发展过程中,以原子力显微镜（AFM）为核心的一系列扫描探针显微镜已经发展成为基础科学及技术应用研究中探测微纳米尺度物质结构、性质及功能的核心工具之一。其中,原子力显微镜以其独特的优点使其广泛应用于化学、材料、物理、生物等纳米相关学科,在纳米技术迅猛发展过程中做出了重要的贡献。微悬臂探针系统是AFM的核心部件,其动力学行为决定着AFM成像的快速性、稳定性和准确性。AFM理论的最终目的是要给出AFM微悬臂系统观测量与样品性质间数学上的解析或者数值关系。基于这些解析或者数值关系,才能够解释AFM实验的结果以及确定最佳实验方案。因此,微悬臂系统动力学特性的理论研究工作是近些年来科研工作者关注的主流热点之一。现有的理论工作在解释微悬臂系统动力学特性方面虽然取得了较大的成功,但也存在其局限性,主要表现为:现有的理论框架和方法无法准确地获得微悬臂系统动态演化过程中的解析结果,无法定量地衡量系统动态振荡程度和响应速度,这将很大程度地限制AFM的成像速度。另一方面,现有的理论方法无法定量地判定微悬臂系统稳态输出的稳定性和稳定程度,这将很大程度地限制AFM的成像质量。另外,由于制造工艺的局限性,单纯地采用调节微悬臂系统参数的方法不能有效提升系统动力学特性。针对这些关键问题,本文对微悬臂系统的动力学特性展开了深入的研究,具体而言,主要包括以下几个部分:（1）提出利用复杂系统自动控制理论来解决微悬臂系统的动力学方程。将微悬臂系统动力学微分方程转化为系统在拉普拉斯空间复数域的数学模型,进而全面地分析微悬臂系统的结构、参数对系统稳态和动态特性的影响,并在此基础上提出有效提升系统动力学特性的校正优化策略。（2）详细研究了微悬臂系统的时域动力学特性。利用自动控制理论,严格证明了系统的稳定性,推导出了微悬臂偏转量的时域解析表达式,获得了微悬臂系统的动态超调量、调节时间、稳态误差等解析结果,这些解析结果在评价AFM的稳定性、快速性和准确性的过程中起到了重要的作用。分别详细地探讨了微悬臂系统内部参数、外部激励信号以及针尖一样品表面间的相互作用力对于系统时域动力学特性的影响。理论和实验研究结果表明,这些关键的物理量会对微悬臂系统时域动力学特性产生复杂深刻的影响,会对AFM成像质量和成像速度起到重要的作用。（3）针对动态模式AFM微悬臂系统动力学方程难以准确求解的问题,提出利用频域分析法获得了微悬臂系统的幅频特性和相频特性的解析表达式,利用微悬臂系统的频域特性严格证明了系统的稳定性。从工程技术的角度出发,利用微悬臂系统稳定裕度来直接衡量微悬臂系统的相对稳定性,并推导出定量的解析结果。理论和实验详细研究了微悬臂系统关键参数对系统频域特性的影响。这些研究结果为确定最佳实验方案提供了重要的理论指导。在此基础上,将频域分析法和传统的理论方法进行了对比,并将理论的解析结果与实验研究结果进行了比较,结果表明自动控制理论在解决动态模式AFM动力学方程中具有很大优势。利用频域分析法研究了轻敲模式微悬臂系统在液体环境中的共振特性,将理论研究的结果与之前报道的实验结果做了对比,发现理论结果能够很好地解释实验数据。（4）提出利用外部校正方法对微悬臂系统进行优化设计,在系统的输入、结构和参数已知时,使得AFM的稳定性、稳定程度、准确性和快速性尽可能符合给定的最佳要求。分别详细地介绍了微悬臂系统串联校正、反馈校正、复合校正等方案。每种方案都首先给出了校正装置的无源网络和有源网络的组成,并探讨了校正环节的时域和频域特性。在此基础上,详细计算了每种具体校正方案的内部参数,最后对微悬臂系统校正前和校正后的动力学特性进行了深入的比较,理论和实验研究结果表明,利用这些外部校正方案,可以非常有效地提升微悬臂系统的动力学特性。（5）利用自动控制理论详细研究了自激励等方式的内部校正优化。利用频域稳定判据证明了微悬臂系统在自激励等反馈作用下的稳定性,获得了系统幅频特性和相频特性的解析结果。研究表明,采用自激励等方法,可以显著改变微悬臂的有效品质因数,增大系统稳态共振的振幅或者加快系统的动态响应速度。在此基础上,提出采用谐振反馈技术来控制微悬臂系统稳态的稳定性、动态的振荡程度及响应速度,从而消除高阶振型极点的影响,防止溢出效应的发生。（6）利用搭建的微悬臂系统仿真平台和实验平台,对各章节的主要理论结果进行了仿真和实验验证,结果表明理论解析结果具有很高的准确性。