二进制代码逆向分析在系统安全领域有着广泛的应用。涉及面向对象语言的逆向分析面临的一个基本问题是如何从二进制代码中解析出由虚函数引起的间接调用。本文基于符号执行等技术对此问题进行了研究,提出一种虚函数解析技术。该技术首先识别对象构造和由虚函数引起的间接调用,然后沿控制流图跟踪对象等信息从对象构造点到虚函数调用的传播,最后在虚函数调用点根据对象、虚表等信息计算该间接调用的目标函数地址。本文主要贡献包括:　　 (1)提出一种基于子图的符号执行技术,用于跟踪二进制程序中对象等信息从对象构造点到虚函数调用的传播。该技术不仅可以计算程序中内存单元与寄存器问值的算术运算关系,而且能有效缓解传统符号执行面临的路径爆炸问题。　　 (2)提出一种对象构造识别方法,用于识别二进制程序中含虚表指针对象的构造。与现有方法相比,该技术可有效地识别内联的对象创建指令序列。　　 (3)提出一种由虚函数引起的间接调用识别方法,用于发现二进制程序中由源码中虚函数引起的间接调用。与现有方法相比,该技术具有更低漏报率。　　 基于以上研究,实现了一个原型系统AutoCG,并针对Windows平台和Linux平台的典型可执行程序做了大量实验,验证了算法的有效性。　　 本文工作得到国家863高技术研究发展计划项目(2006AA01Z402)和某国防基础预研项目的资助。