基于J2EE的网络舆情分析系统的设计与实现

被引量 : 0次 | 上传用户:zj1280
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络信息的极速膨胀,各类新闻网站,论坛上的信息越来越庞大。在如此庞大的数据中,快速且准确的找到和用户关心的主题有关的新闻条目或是论坛主题变得越来越困难。目前Google、百度这样的搜索引擎提供的爬取结果的主题过于广泛,时效性也难以保证,加上一些和关键词相关的结果位置被购买,往往导致检索的时效性,相关性,人工检索的效率皆不如人意,满足不了特定领域用户的精准搜索的需要。为此本文的目的就是实现一个精准的对页面时效性,网络内容相关性的和搜索关键词高度匹配的网络爬虫系统,加之准确的分类分析,以达到网络舆情监控的目的。随着互联网治安越来越成为构建和谐精神文明建设的一个重要组成部分,对网络水军与网络敌对势力的防范,对来自人民的声音的听取变得越来越重要。而这也导致了国内目前做舆论监控为目的的网络爬虫系统的公司层出不穷,本人实习所在单位就是这样一家专注于特定用户群的互联网公司。本文所描述的网络舆情分析系统的数据来源为目前国内主要微博、论坛(如西祠,天涯,新浪,贴吧)和新闻网站(新浪等门户),以及百度,奇虎新闻等专业搜索引擎的结果页面。网页递归地抓取完成后使用HtmlParser这样一个开源的网页解析工具解析出主要结构,进行基于时间,主题相关性,内容相关度的分类过滤,最后更新到数据库中供前台Jsp页面访问。爬虫支持定时任务与ad-hoc即时触发。逻辑层面使用了一些如Spring、Hibernate、Struts这样的开源技术来构建MVC-based的业务处理系统,后台的采集、解析、过滤等模块还使用了诸如Berkeley DB、Apache Lucene、HtmlParser、MMAnalyzer等开源技术来完善系统。在这个系统中本人设计并实现了采集中心子模块、解析模块以及分类分析模块。论文主要描述了这几大模块的相关工作,包括需求分析、具体设计(流程图、类图)以及关键代码的实现。最后描述了系统的缺点与待改进之处。
其他文献
在本文的论述中,明确的指出了交通肇事罪的构成要件,指出了交通肇事罪的结果加重和交通肇事后转化成故意伤害、故意杀人的两种情形的区别。前者的情况就是交通肇事后的消极逃逸
慢性肾小球肾炎简称慢性肾炎,属中医学“肾风”、“风水”、“水肿”、“尿血”、“腰痛”等病的范畴。其起病多隐匿,病程冗长,病情发展缓慢,可伴有不同程度的肾功能减退,并
通过分析当今国际上以英国等国为例的城市规划应对气候变化的适应发展方法与策略,论述城市规划作为发展战略的重要专业工具,需要在规划的政策管理体系、规划编制的内容与方法
随着Internet技术的飞速发展,加快政府信息化,大力推动"政府上网"工程,是我国政府跨世纪的重大举措。随着国家提出实施"以信息化带动工业化"战略决策,中国已经加入WTO,政府实现电
近年来,面向贫困人群的金融创新工具小额贷款逐渐成为发展中国家应对农村金融市场中信息不对称问题的有力武器。小额贷款不仅是对传统贷款方式的一种创新,也解决了社会弱势群
珠宝是大自然的明星,它闪耀的璀璨光芒正是电影和电影明星们需要的。珠宝在电影中一直扮演着重要的角色,有的电影中,珠宝是其中的华丽道具,比如《闪灵侠》、《泰坦尼克号》、《蒂
跨入21世纪以后,经济全球化和区域经济一体化已经成为当今世界经济发展的两大趋势。两大趋势齐头并进,使传统封闭的经济格局被打破,区域经济发展成为时代必然。在过去改革开
随着科技的进步,信息技术的发展日新月异,特别是互联网的发展,促成人类生活的改变,从2006年Amazon公司发布AWS系统到2007年IBM和谷歌公司提出云计算的概念以来,云计算已经逐
通过大田定点观察及气象因子分析 ,结果表明 :香草兰拟小黄卷蛾的发生与温湿度、降雨量有密切的关系。该虫在一年中的危害可分为 4个阶段 ,防治重点时期为第 3、4阶段。室内
1919-1924年英国的地中海政策,可以分为东地中海政策和西地中海政策两部分。西地中海政策涉及英国与法国、西班牙的关系;东地中海政策涉及英国在埃及的宗主制度。伊比利亚半岛