基于HBase的极光图像实验系统的设计与实现

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:Gzliao1
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着极地研究技术以及计算机技术的迅速发展,从地球南北两极获得到的极光图像数据急剧增加。极光图像的增长速率超过每年一百万帧,约550G,并且随着极地摄像技术的不断发展,未来极光图像的数量还会有显著增长。由于传统的极光实验方法对实验环境要求较高并且难于扩展,所以如何有效率的管理数量庞大的极光图像数据成为科学家们探索极光自然现象面临的一个首要问题。因此,我们需要一个易于扩展的并行化极光图像处理模型,HBase以及MapReduce能够满足这个需求。本文设计了一个基于HBase的极光图像管理与实验系统,提出了一个将数量庞大的极光图像数据存储到HBase中的方法,并且使用MapReduce并行计算框架来处理极光图像数据。本文在对Hadoop,HBase与MapReduce技术的研究基础上,设计实现了一个B/S结构的基于HBase的极光图像管理与实验系统,系统的整体运行在Hadoop集群之上,将极光图像数据以及极光图像运行完处理算法后的结果信息存储到HBase的不同表之中,其中HAurora ImgTable表存储极光图像内容的字节流信息,HAuroraDataTable表存储极光图像的元数据和图像处理算法处理结果。分离的存储方式使得HBase数据表的每一行数据不至于过大而影响读写数据的性能。系统的分布式计算层采用了MapReduce计算框架,充分利用HBase的MapReduce接口,实现了极光图像的处理算法。(1)本文实现了极光图像的预处理算法。在预处理的过程中完成了减去暗电流,图像裁剪,拉伸原始极光图像的灰度,旋转图像使得极光图像的正北极向上。该算法还将极光图像由原始镜像格式转换为bmp格式并提取了图像的元数据,将生成的bmp格式图像和元数据分别插入到不同的HBase表中。(2)本文实现了极光图像的keogram生成的数据提取算法,将提取到的极光图像中沿地磁南北方向上的磁子午线极光强度数据存储到HBase的实验结果数据表中,该实验的结果是一个长度为440的表示极光强度数据的int型数组。(3)本文实现了LBP算法的特征提取,将极光图像分成了3行6列共18个小块,用LBP方法提取每一块的特征得到每块的特征值,将提取到的特征值存储到HBase的实验结果数据表中。系统的API层提供了访问Hadoop和HBase集群的API,为编写图像处理算法的MapReduce程序提供了访问数据表的接口。位于API层之上的是系统的Servlet层,部署于Hadoop主节点上的代理软件负责与Servlet端进行通信,负责向集群MapReduce任务的执行命令。代理软件实现了一个监听线程,当其接收到来自于Servlet端的执行任务请求时,由监听线程将该任务加入到一个消息队列中。当该消息队列不为空时,启动任务执行线程,任务执行线程从消息队列中取得一个任务,生成命令将任务发送到Hadoop集群中进行执行。系统的应用层封装了功能应用,主要包括用户注册登录,数据导入,运行MapReduce实验,检索实验结果并进行展示,系统帮助等。文章最后展示了系统的实验结果,实验的结果表明了极光图像的实验算法可以在集群上正确的运行,并且极光图像数据的导入和极光图像数据的处理速度都较遗留系统有了显著的提高,表明该系统具有良好的可用性以及可扩展性。
其他文献
化学工业园是化工产业发展的一种高端模式,具有产业高度集中化的特点,其产品贯穿产业链,是目前国内化工领域发展比较迅速的工业形式。在规划阶段,化工园区通常使用沙盘、计算机三
语义邮件过程是以电子邮件为通信方式的问题求解过程,是基于语义网技术对电子邮件进行的扩展,其本质是利用语义网技术使电子邮件内容可以被计算机理解,并在此基础上使得一些事务
在移动运营商领域,移动数据通信网络为公司各种业务和应用提供统一的综合传送平台。近年来随着业务的快速发展,移动数据通信网络所承载的业务数量和种类也一直在增长,随时都
计算机技术日益发展的今天,尽管目前单个CPU的性能已经达到相当高的水平,但就一些超大规模计算或一些必须实时完成的多媒体运算而言,如果不利用并行计算技术是很难满足用户需求
动画自动生成技术(Automatic GenerationofComputerAnimation)是由中科院数学所的陆汝钤院士提出的,结合了人工智能理论与现代多媒体技术的全新动画制作过程。系统接收以受限
环绕智能是一个以用户为中心的、智能化和个性化的互联系统,是建立在人与环境之间的一种新型的交互方式。环绕智能在本质上融合了无处不在的计算、无处不在的通信和人机交互
在动态变化的战场环境中,在线协同任务分配技术是多无人作战飞机实现快速反应和高效协同的关键技术之一。本文从问题的描述与建模开始,分别以对地攻击任务和防空火力压制任务
随着我国经济社会发展取得的巨大成就,各种对外合作以及国际交流日益频繁,越来越多的国际友人希望通过各种方式、各种渠道了解中国,克服语言障碍已经成为亟待解决的问题。同时,涉
计算机辅助排样(CAN)是计算机辅助技术最具体的应用之一,是计算机技术与现代经济快速发展的必然产物。它广泛存在于机械加工、家电制造、服装裁剪、国防科技等国民经济行业中
随着Web系统的迅猛发展和广泛应用,其功能验证和性能提高越来越受到重视,Web系统的开发成为一项复杂而艰巨的工作。开发者希望在早期就能对系统的功能和性能进行评价,尽早发