【摘 要】
:
自然语言生成是计算语言学与人工智能领域的重要分支。现有的语言生成系统结构冗余、人为参与度较高的问题亟待解决。由于生成对抗网络在序列生成方向上逐渐受到关注,同时为更好地使计算机具有人一样的表达和写作能力,基于目标导向的生成方法提供了新的生成角度,不同于语言分析逆过程的生成方式,提升生成内容的可控性。现有的用于序列生成的策略梯度算法中,真实环境提供的奖励规则没有被很好的近似,即用训练模型本身生成的数据
论文部分内容阅读
自然语言生成是计算语言学与人工智能领域的重要分支。现有的语言生成系统结构冗余、人为参与度较高的问题亟待解决。由于生成对抗网络在序列生成方向上逐渐受到关注,同时为更好地使计算机具有人一样的表达和写作能力,基于目标导向的生成方法提供了新的生成角度,不同于语言分析逆过程的生成方式,提升生成内容的可控性。现有的用于序列生成的策略梯度算法中,真实环境提供的奖励规则没有被很好的近似,即用训练模型本身生成的数据作为环境模型生成的结果,并当成反馈奖励参与计算。判别器没能提供生成目标的奖励,让生成器根据强化学习的方式进行训练,使对抗生成网络中的语言生成模型不能基于目标词引导进行训练。本文提出的目标导向的序列对抗生成网络(Goal-directed Sequence Generative Adversarial Network,G-SeqGAN)模型,主要实现了强化学习方法与对抗生成网络的组合训练,通过奖励引导并使用滚动计算方法实现目标序列生成,进一步增强了生成对抗网络中自然语言生成任务的可控性。分析了在使用强化学习方法时容易忽略的环境要素,总结环境的私有状态,为自然语言生成方法提供一种新的分析视角,并为模型的训练提供了一个新的更新表达式,通过新的反馈策略确保在训练过程中更好地估计环境给出的反馈,从而提高训练效果。本文在合成数据和实值任务的数据集上进行了对比实验,实验结果表明模型在实用性和鲁棒性方面的优越性。证明了词控制序列生成方法的优势,模拟反馈方法优于基础的序列生成对抗网络模型。
其他文献
一、阅读下面的文字,完成后面试题。“富士康”背后的心理调查自深圳“富士康”工人跳楼事件后.打工者的心理引起社会的关注。深圳市总工会与深圳大学劳动法和社会保障法研究所
从城市轨道交通项目施工过程中工程造价连续性管理普遍较差的现状出发,对适用于工程造价连续性管理的概算分解管理技术进行深入研究,并针对工程实际中所产生的问题提出了需解
新型长效保温建筑预制围护体系由工厂化预制部分与现场浇筑部分组成。其预制部分主要由钢筋混凝土外墙模与外墙保温材料复合构造而成,是集外墙门窗框、空调板等附件于一体的
杭州银泰城综合体项目体量庞大、工期紧、结构复杂,采用8台塔吊实行群塔施工。施工中,充分发挥了多塔机协同作业的优势,实现了工程进度和施工成本的有效结合。结合工程实践,介绍
自1995年1月~1999年12月,手术治疗高血压性脑出血216例,对手术时机、术式的选择和术后的治疗体会,报道如下.
由于地铁建设对经济增长的强烈拉动效应,地铁枢纽站附近往往在建或待建大量密集的高大建筑群,所带来的超大、超深基坑开挖问题越来越多.结合正在建设中的上海世纪大都会2-3地
近年来,动车组作为我国大力发展的运输工具,其发展劲头在我国尤为突出,因此从各个方面都提出了更高的要求。轻量化、体积小、高效化、节能化逐渐成为新一代机车车辆的发展趋势。在辅助电源领域最大的突破就体现在对整体辅助电源的效率提升,辅助电源的效率的提升不仅节省了能源,同时也改善了辅助电源的质量。应运而生的电力电子软开关技术越来越备受重视,软开关技术将广泛运用于中小型功率的变换器中去,零电压开关(Zero-
本文探讨112例硬膜外阻滞后伴有寒战的产妇在静注不同剂量可乐定后寒战抑制的情况.根据静注剂量随机分5组:A组生理盐水5ml;B组0.5μg/kg;C组1μg/kg,D组1.5μg/kg;E组2μg/kg