基于团分划改进的IPS算法

来源 :长春工业大学 | 被引量 : 0次 | 上传用户:dlll9393
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图模型用图直观地、清晰地表达变量间的结构关系,并将复杂的大型全局问题分解为相对简单局部问题,这样不仅极大地减少推理计算时的计算量,而且也将提高推理的功效。在图模型的各种推理计算中,参数估计和模型选择是最核心的两个问题。本文将研究完全数据时的极大似然估计和不完全数据情形下的模型选择。图模型的极大似然估计一般采用迭代比例拟合(IPS)算法。由于IPS算法的稳定性和易于执行性,自从Deming and Stephan首次提出之后,陆续有许多学者从几何解释、收敛性、空间复杂度、时间复杂度等许多方面进行了深入研究和改进。然而,许多实际问题往往结构复杂、涉及的变量众多,此时IPS算法复杂度较高。本文从计算局部化的角度对IPS算法作了进一步研究。受Xu等人发表在JCGS的关于高斯图模型中利用团分划进行局部计算的启发,我们给出了在多项分布图模型中基于团分划进行局部计算的理论。由构成该理论的2个定理知,基于团分划的局部计算没有利用变量间的条件独立关系,这样即使图结构非常复杂,团分划策略仍然有效,这是前辈学者的诸多算法所不具备的优点。进一步,提出了基于团分划进行局部计算的算法,即IPSP算法。在该算法中,先将团集分划为几个非重叠和非空的块,然后在每个块中局部地、逐次地调整团边缘。找到使IPSP算法胜过IPS算法的团分划不难,但是整体最优的分划是很难确定地找到。本文采用模拟退火(SA)算法来寻找到一个近似最优分划。此外,我们还证明了n元圈图模型的最优分划为连续二等分划。由于团分划的策略没有利用图的结构和模型的条件独立关系,而Teh and Welling提出的UPS-JT算法中利用连接树进行局部计算的策略不具备此特性,因此团分划能提高UPS-JT算法中的拟合步的计算速度,进而提高UPS-JT算法的整体计算效率,本文称之为UPSP-JT算法。然后,本文模拟比较了IPS、IPSP、UPS-JT、UPSP-JT这几种算法的算法效率,我们发现使用连接树的UPS-JT算法和UPSP-JT算法优于没使用连接树的IPS算法和IPSP算法,并且IPSP算法和UPSP-JT算法运行的分别比IPS算法和UPS-JT算法更快,所以基于团分划的局部计算能有效地提高计算效率。含不完全数据的模型选择问题,传统的方法是先在备选模型下求极大似然估计,而后采用信息准则(例如BIC等)选择模型。但Jiang等人的JASA论文指出,传统的方法可能不会收敛,甚至可能选错模型,并提出了在一定条件下具有收敛性的E-MS算法。本文将利用Jiang等人提出的E-MS算法,考虑不完全数据情形下图模型的模型选择问题。但由于E-MS其嵌套计算的特性,计算量随变量个数的增加迅速的增大,因而本文在最大化Q函数中将采用IPSP算法提高计算速度,同时进行了模拟研究。本文结构安排如下。第一章中,简要介绍了研究背景和IPS算法发展的历史和现状,以及本文的组织结构安排。第二章中,简要介绍了一些预备知识,即图模型的一些定义、概念和记号。第三章中,首先简介了属性数据的列联表和经典的IPS算法。其次给出了基于团分划进行局部计算的理论结果和算法(IPSP算法),以及利用模拟退火算法求团集的近似最优分划中进行MH抽样的算法(MHDP算法),并证明了图模型的一种基础结构n元圈的最优分划为连续二等分划。然后利用团分划策略改进了UPS-JT算法,并通过模拟实验比较了IPS、IPSP、UPS-JT和UPSP-JT这四种算法的计算效率。第四章中,简介了不完全数据情形下模型选择的较新理论成果,即E-MS算法,并分析了其复杂度,同时还进行了不完全数据情形下图模型的模型选择的模拟研究。第五章中,给出了全文总结,并且展望了在贝叶斯估计中,IPS算法基于局部计算策略的改进。
其他文献
欧盟商用车注册量11月份上涨8.4%rn欧洲汽车工业协会的统计数据显示,2011年11月份欧盟商用车注册量继续保持增长,达到171670辆,同期增涨8.4%。这些增长主要是法国(+9.9%)、德国(+13.9%)和英国(+1
自1985年“首届全国照相机械产品博览会”到今年“2001中国国际照相器材与数码影像博览会”,整整走过了16年。两年一届,已经开了九届,人们已习惯地称之为“杭博会”! “杭博会”真实地记录
回顾班主任工作生涯,总结经验,以取得更大成绩。 Recall class teacher career, sum up experience to achieve greater results.
美国哈佛大学医学院的研究人员对4000名曾有心脏病发作史的患者作调查后发现,清晨是心脏病发作的高峰时间。在一天24小时中,心脏病发作有一个时间节律,即每天上午6时至9时为
作为学校班级工作的教育者、组织者和领导者的班主任要怎样才能不同类型的学生凝聚在一起,形成一种教育合力呢?根据我这几年的班主任工作我总结出了一个字“慢”.我认为,慢,
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
随着2007年美国次贷危机越演越烈最终引发全球性的金融危机,中国股市经历了冰火两重天,上证综指从2005年的1260点涨到2007年最高点6124点,紧接着又从6124点下跌到2008年1664
学位
期刊
单边膨胀喷管(SERN)是超燃冲压发动机的关键部件,由于其几何非对称,在发动机点火/熄火瞬间,SERN会产生较大的冷热态俯仰力矩差,影响飞行器的稳定性.现有解决方法主要是利用几
2001年,金风送爽的夏秋时节,杭州照相机械研究所与上海海鸥照相机有限公司进行了高层互访。杭州照相机械研究所杨相利所长一行7人走访了上海海鸥照相机有限公司,上海海鸥照相机有限公