【摘 要】
：
该文针对行政规范性文件的文本纠错任务，提出了一个基于BERT（Bidirectional Encoder Representations from Transformers，一种经典的自然语言处理领域的预训练模型）的文本纠错模型，模型针对冗余、缺失、错序、错字等四类任务分别建模，分为检错和纠错两个阶段。检错阶段检查出文本是否有错、错误的位置以及错误的类型等内容，纠错阶段运用BERT掩码语言模型和混
【基金项目】
：
国家自然科学基金（61866017;61866018;61876074;61966019）； 江西省自然科学基金（20192BAB207027）；
论文部分内容阅读
该文针对行政规范性文件的文本纠错任务，提出了一个基于BERT（Bidirectional Encoder Representations from Transformers，一种经典的自然语言处理领域的预训练模型）的文本纠错模型，模型针对冗余、缺失、错序、错字等四类任务分别建模，分为检错和纠错两个阶段。检错阶段检查出文本是否有错、错误的位置以及错误的类型等内容，纠错阶段运用BERT掩码语言模型和混淆集匹配的方法预测缺失文本缺失内容。实验结果表明，在我们的数据集上，新提出的基于BERT的文本纠错模型在行政规范性文件的文本纠错任务中的F1值为71.89%，比经典的中文文本纠错工具Pycorrector提升了9.48%。
其他文献
在线社交网络已经成为用户分享信息、发表观点的重要平台。当用户在社交网络围绕某一主题发表评论信息或者与其他用户展开讨论时,就会形成在线社交网络话题。由于不同用户的认知存在差异,看待话题的角度与评论的焦点也并不相同,因此在线社交网络话题会包含不同的关注点。通过研究在线社交网络话题关注点,能够帮助管理者掌握用户诉求,跟踪用户关注点的发展,为品牌管理、危机管理提供理论支持。以微博与论坛为代表的在线社交网络
西兰花属十字花科,富含抗坏血酸及多酚等抗氧化成分,是一种营养健康的蔬菜。西兰花中含有多种异硫氰酸盐,其中的萝卜硫素（SFN）是目前发现抗癌效果最好的天然植物化学成分,同时它还具备抗炎等生理功效。西兰花在采后易衰老黄化,并伴随营养成分的损失,严重影响其品质及商业价值。褪黑素是一种广泛存在于生命有机体中的吲哚胺类激素,它可以通过清除自由基,增强果蔬的抗氧化能力以延缓衰老,但褪黑素对鲜切西兰花在冷藏过程
干旱灾害长期以来都是影响人类经济社会发展的重大自然灾害类型之一。中国地处环太平洋沿岸和北纬20°至50°两大世界自然灾害带,受制于自身所处的地理环境和气候特征,域内旱灾事件频发。伴随着人类活动影响的加剧,我国旱灾形势日趋严重,给人民群众生产生活带来了巨大损失。旱灾问题对我国农业生产活动构成的安全威胁最为直接也最为严重,这促使进行区域农业旱灾风险系统研究成为了实现国家旱灾减灾战略的重要保证,同时也是
随着大数据时代的到来,信息与数据的快速流动为互联网提供了良好的发展环境。作为数据与用户交互的媒介,近年来诞生的大量社交网络服务（Social Networking Services,SNSs）平台日益成为生活中不可缺少的重要组成元素。不仅为人们生活带来了便利提升用户满意度,也蕴藏着巨大的科学与经济研究价值,为商家增加了可观的经济收益。在用户服务上,SNSs提供了在线的平台,一方面利用推荐系统这一面
近年来,我国的食品工业飞速发展,但随之而来的食品安全问题日趋严重。食品在原料、生产、加工、运输和储存等阶段都可能受到各种污染物的侵害,食源性疾病成为对人类健康危害最大的一类疾病。有效去除食品中的污染物成为一项重大紧迫的任务。而传统的污染物清除技术,由于设备造价高,耗能大或效果差等原因,逐渐无法满足生产者的生产需求。因此,研发低成本、高效、环保的处理清除食品污染物的新型技术实现可持续发展,具有很重大
长江中下游成矿带是我国东部十分重要的铁、铜、金多金属成矿带,广泛发育斑岩-矽卡岩型矿床和玢岩型矿床。基于对带内典型矿床的详细研究,许多学者提出长江中下游成矿带斑岩型矿床为陆内背景下岩浆热液活动的结果。然而,对于长江中下游成矿带斑岩成矿系统的认识还存在很多疑惑和争议,如构造背景,成矿岩浆岩起源及演化过程,热液流体的出溶及矿质沉淀机制等,因此,需要对区内斑岩矿床进行深入细致的剖析,为该成矿带矿床成因提
脂肪组织作为主要的储能器官,在维持体内能量稳态过程中发挥重要作用。白色脂肪组织中不仅有典型的白色脂肪细胞,还零星分布着可以诱导产热的浅棕色脂肪细胞。白色脂肪组织基质血管相（stromal vascular faction,SVF）中的肥大细胞（MC）等免疫细胞、前脂肪细胞以及内皮细胞等,通过与脂肪细胞的互作而调控脂肪组织和机体的能量稳态。2009年,本团队报道了MC通过影响白色脂肪组织血管化,关键
锌是人体必需的营养素,与人类健康息息相关,体内锌紊乱会导致多种疾病的发生,如肿瘤。临床研究发现,肿瘤患者体内缺乏锌,存在多种锌转运蛋白表达异常,膳食补锌具有抑制肿瘤作用,但具体的分子机制仍不清楚。癌症基因组图谱（The Cancer Genome Atlas,TCGA）中数据显示,人类多种肿瘤组织锌转运蛋白Zn T7表达量下降,但无相关机制研究。本课题以此为契机,探究营养素锌对肿瘤发生发展的影响及
肉类食品是人类饮食的重要组成部分,肉制品安全与人们的身体健康和生命安全直接相关。近年来接连发生的肉制品安全事件使人们充分意识到建立准确、有效的肉品质量监管机制的重要性。然而,目前的检测方法仍以实验室分析为主,可用于快速、简单和现场检测肉源性成分的方法较少。针对肉制品检测的研究现状,本论文以聚合酶链式反应（PCR）、环介导等温扩增（LAMP）和重组酶聚合酶扩增（RPA）等核酸扩增技术为基础,并与荧光
随着我国社会经济的飞速发展和物质财富极大丰富,人们的物质生活水平得到了极大的提高,消费者也越来越倾向于购买高端化、个性化和品质化的产品。但传统的自动化生产线主要实现单一品种、大批量的生产,这一生产模式已远远不能满足消费者的需求。为解决需求变动所带来的生产问题,考虑到高端化、个性化和品质化产品的多品种、小批量、到达时间随机等特点,企业往往采用工作台的生产方式,安排员工各自加工,然后根据工艺要求,将加