分布式垂直搜索抓取平台的研究与设计

来源 :湖南大学 | 被引量 : 0次 | 上传用户:lygwzs
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机互联网行业的蓬勃发展,互联网所提供的服务已经涵盖了人们生活的方方面面,互联网提供的服务主要通过网页的形式呈现给用户使用,信息搜索已成为互联网中最有价值的研究与应用领域。通用搜索引擎,如百度、Google、360搜索等搜索引擎,能够将互联网中的众多网站信息进行整合,提供信息导航的作用,而垂直搜索引擎则主要服务于某一特定行业、特定专业的搜索引擎,是对通用搜索引擎功能进行的延伸和细分化。垂直搜索引擎为用户提供的信息是范围极为缩小、极具针对性的具体信息,而不像通用搜索引起那样提供成百上千的相关网页。由于垂直搜索引擎的专、精特质,特定行业的用户更加青睐于垂直搜索引擎,因此研究垂直搜索引擎的关键技术具有重要意义。本文的研究重点是在当前现有的垂直搜索引擎的基础上,设计基于分布式计算技术的垂直搜索抓取平台,通过这套平台系统能够对专业领域的网站,快速实施及部署所有重要信息的抓取。本文的主要工作包括:(1)针对垂直搜索抓取系统的基本需求与关键核心问题进行研究,分析了垂直搜索抓取系统要实现的基本功能需求,提出了基于字符串匹配的可配置抓取策略的基本解决方案。(2)针对互联网行业信息的巨大规模及网络复杂性,分析设计了跨网络的分布式抓取策略部署及调度方案。(3)最后,以互联网中的手机应用分发网站作为测试。测试结果表明本系统能够快速的实现对多个手机应用分发网站的全量抓取及增量抓取行为,系统抓取得到的信息具有较好的结构化程度。目前,该系统已经初步投入实际使用并取得了较好的效果,本系统的研究和设计对国内相关的垂直搜索抓取引擎具有一定参考价值与借鉴意义。
其他文献
乙烯-醋酸乙烯酯共聚物(EVA)是类似橡胶弹性体的无毒、无味、透明的热塑性塑料,具有较好的柔韧性、耐冲击性、透明性、粘结性以及良好的加工性能。然而,EVA本身机械强度不高,
本研究以番茄叶霉病的抗病的纯合基因型(Cf-5/Cf-5)、抗病杂合基因(Cf-5/cf-5)和感病纯合基因型(cf-5/cf-5),番茄枯萎病的抗病纯合基因型(I-2/I-2)、抗病杂合基因型(I-2/i-2)
软岩岩性较弱,在外力作用下易发生破碎,遇水软化后破碎现象更加显著,从而产生较大程度的湿化变形。若将其用作路基填料易导致路面受损破坏,影响路用功能及行车安全。软岩的颗粒破碎现象是导致其遇水后湿化变形的一个重要因素,但目前对湿化过程中颗粒破碎规律的研究较少。本文以软岩为研究对象,基于三轴压缩试验分析了软岩在风干及饱和状态下的颗粒破碎及变形规律;结合颗粒流方法进行分析试验,主要得到以下研究结果:(1)借
拉曼光谱是分子振动的指纹光谱,能够表征癌变细胞的生物分子变化,其无标、无损的特性使其在临床癌细胞识别中具有广阔的应用前景。自发拉曼光谱信号较弱,在临床癌细胞检测中
本试验系统研究高酯型儿茶素速溶茶的抗菌作用和高酯型儿茶素速溶茶对海绵蛋糕、大黄鱼、月季鲜切花的贮藏保鲜作用效果,为高酯型儿茶素速溶茶在食品、水产品、鲜切花领域的
在传统光电成像技术的研究中,光电探测主要是采集目标的反射光强度与光谱信息,如传统的强度成像、多光谱成像、高光谱成像等方法。传统成像方法获取的目标信息单一,且易受到
近年来,随着大气监测、地物信息反演、军事目标识别等领域对光学遥感信息量需求的增加和遥感信息获取技术的飞速发展,出现了一种新型遥感信息探测技术——偏振光谱成像技术。
重金属污染是公众广泛关注的环境问题。重金属可存在于各种环境介质中,通过接触暴露使人体健康受到危害。因此,快速,灵敏和特异性地测定环境中的重金属的含量具有重要的实际意义。电化学技术用于重金属离子检测具有其本身固有的优势:样品无需复杂前处理即可直接测定,且具有快速,灵敏度高,选择性好,操作简单,成本低,便携性及可现场检测等多种优点。本文利用纳米材料特有的物理化学性质构建具有稳定性良好、灵敏度高、检测快
近几十年来,空间光学遥感技术迅速发展。光学遥感图像由多光谱发展进入到高光谱的新阶段。高光谱图像具有高的光谱分辨率、空谱结合等优点,在民用领域和军事领域得到了广泛应
交通作为连接旅游客源地与目的地的重要方式,为旅游业的发展提供了更多动力。旅游地交通的发达程度直接关系到旅游者的总体支出,进而影响着游客对于旅游目的地的选择,所以对