农企新闻网

机器翻译新打破,微软中英旧事翻译达人类程度

发布者:马阳
导读翻译没有独一规范答案,它更像一种艺术。雷锋网(大众号:雷锋网)AI科技评论音讯:14日晚,微软亚洲研讨院与雷德蒙研讨院的研讨人员宣布,其研发的机器翻译零碎在通用旧事报道测试集newstest2017的中-英测试集上,到达了可与人工翻译媲美的程度;这是首个在旧事报道的翻译质量和精确率上可以比肩人工翻译的翻译零碎。newstest2017测试集由来自产业界和学术界的团队共同开发完成,并于2017年在W

翻译没有独一规范答案,它更像一种艺术。

雷锋网 (大众号:雷锋网) AI科技评论音讯:14日晚,微软亚洲研讨院与雷德蒙研讨院的研讨人员宣布,其研发的机器翻译零碎在通用旧事报道测试集newstest2017的中-英测试集上,到达了可与人工翻译媲美的程度;这是首个在旧事报道的翻译质量和精确率上可以比肩人工翻译的翻译零碎。

newstest2017测试集由来自产业界和学术界的团队共同开发完成,并于2017年在WMT17大会上发布。而旧事(news)测试集则是三类翻译测试集中的一个,其他两类为生物医学(biomedical)和多形式(multimodal)。

四大技术

我们晓得,关于同一个意思人类可以用不同的句子来表达,因而翻译并没有规范答案,即便是两位专业的翻译人员关于完全相反的句子也会有稍微不同的翻译,而且两团体的翻译都不错。微软亚洲研讨院副院长、自然言语计算组担任人周明表示:“这也是为什么机器翻译比地道的形式辨认义务复杂得多,人们能够用不同的词语来表达完全相反的意思,但未必能精确判别哪一个更好。”

这也是为什么科研人员在机器翻译上攻坚了数十年,甚至已经很多人都以为机器翻译永远不能够到达人类翻译的程度。近两年随着深度神经网络的引入,机器翻译的表现获得了很多明显的提升,翻译后果相较于以往的统计机器翻译后果愈加的自然流利。

据雷锋网理解,在这次的任务中来自微软亚洲研讨院和雷德蒙研讨院的三个研讨组经过屡次交流协作,将他们的研讨任务相结合,再次更进一步地进步了机器翻译的质量,其中用到的技术包括对偶学习(Dual Learning)、琢磨网络(Deliberation Networks)、结合训练(Joint Training)和分歧性标准(Agreement Regularization)等。

机器翻译新突破,微软中英新闻翻译达人类水平

对偶无监视学习框架

对偶学习 ,即应用义务的对偶构造来停止学习。例如,在翻译范畴,我们关怀从英文翻译到中文,也异样关怀从中文翻译回英文。由于存在这样的对偶构造,两个义务可以相互提供反应信息,而这些反应信息可以用来训练深度学习模型。也就是说,即使没有人为标注的数据,有了对偶构造也可以做深度学习。另一方面,两个对偶义务可以相互充任对方的环境,这样就不用与真实的环境做交互,两个对偶义务之间的交互就可以发生无效的反应信号。因而,充沛天时用对偶构造,就无望处理深度学习和加强学习的瓶颈——训练数据从哪里来、与环境的交互怎样继续停止等成绩。

机器翻译新突破,微软中英新闻翻译达人类水平

琢磨网络的解码进程

琢磨网络 中的“琢磨”二字可以以为是来源于人类阅读、写文章以及做其他义务时分的一种行为方式,即义务完成之后,并不当即终止,而是会重复琢磨。微软亚洲研讨院机器学习组将这个进程沿用到了机器学习中。琢磨网络具有两段解码器,其中第一阶段解码器用于解码生成原始序列,第二阶段解码器经过琢磨的进程打磨和润饰原始语句。后者理解全局信息,在机器翻译中看,它可以基于第一阶段生成的语句,发生更好的翻译后果。

机器翻译新突破,微软中英新闻翻译达人类水平

结合训练:从源言语到目的言语翻译(Source to Target)P(y|x) 与从目的言语到源言语翻译(Target to Source)P(x|y)

结合训练 可以以为是从源言语到目的言语翻译(Source to Target)的学习与从目的言语到源言语翻译(Target to Source)的学习的结合。中英翻译和英中翻译都运用初始并行数据来训练,在每次训练的迭代进程中,中英翻译零碎将中文句子翻译成英文句子,从而取得新的句对,而该句对又可以反过去补充到英中翻译零碎的数据集中。同理,这个进程也可以反向停止。这样双向交融不只使得两个零碎的训练数据集大大添加,而且精确率也大幅进步。

机器翻译新突破,微软中英新闻翻译达人类水平

   分歧性标准:从左到右P(y|x,theta->)  和从右到左P(y|x,theta<-)

分歧性标准 ,即翻译后果可以从左到右按顺序发生,也可以从右到左停止生成。该标准对从左到右和从右到左的翻译后果停止约束。假如这两个进程生成的翻译后果一样,普通而言比后果不一样的翻译愈加可信。这个约束,使用于神经机器翻译训练进程中,以鼓舞零碎基于这两个相反的进程生成分歧的翻译后果。

与人类比拟

由于机器翻译没有“正确的”翻译后果,为了与人类的翻译程度停止比拟,就必需严厉地定义什么是与人类翻译程度相当。依据其宣布的论文中表述,这种定义有两种:

1、假如一个具有双语才能的人判别人类输入的译文质量与机器输入的译文质量相当,则机器到达人类程度。

2、假如机器翻译零碎在测试集上的译文质量得分(人工评分)与人类译文得分没有明显差异,则机器到达人类程度。

微软选择了第二种定义,由于这样绝对而言比拟公道且有实践意义。

newstest2017旧事报道测试集中共包括了约2000个句子,它们是由专业人员从在线报纸样本翻译而来。

微软团队对测试集停止了多轮评价,每次评价会随机挑选数百个句子停止翻译。

随后,为了验证微软的机器翻译能否到达了人类翻译程度,微软从内部延聘了一群双语言语参谋,让他们对微软的翻译后果和人工的翻译停止比拟和评分,后果如下:

机器翻译新突破,微软中英新闻翻译达人类水平

#表示集群的排名,Ave%表示均匀原始分数(范围在[0,100]之间),Ave z表示规范 z分数。该表显示了零碎搜集了至多1827份评价后果。

从表中我们可以看出,微软的零碎(Combo-4, 5, 6)曾经与人类翻译(Reference-HT回到当下汹涌澎湃的AI浪潮,正如所有的企业都被互联网化一样,所有的互联网企业都将 AI 化。而这些互联网企业中,也包含CSDN。同时,作为全球最大的中文IT社区,CSDN还有一个历史使命——为广大的互联网公司进行AI赋能。)无明显差异,远远超越Reference-PE(人类翻译—基于机器翻译后的编辑)以及Reference-WMT。

任重而道远

关于这项后果,来自微软的研讨人员却表现地极为自然。

机器翻译新突破,微软中英新闻翻译达人类水平

微软技术院士黄学东,担任微软语音、自然言语和机器翻译

微软技术院士黄学东通知记者:

“在机器翻译方面到达与人类相反的程度是一切人的梦想,我们没有想到这么快就能完成。消弭言语妨碍,协助人们更好地沟通,这十分有意义,值得我们多年来为此付出的努力。”

微软机器翻译团队研讨经理Arul Menezes表示:

“团队想要证明的是:当一种言语对(比方中-英)拥有较多的训练数据,且测试集中包括的是罕见的群众类旧事词汇时,那么在人工智能技术的加持下机器翻译零碎的表现可以与人类媲美。”

机器翻译新突破,微软中英新闻翻译达人类水平

微软亚洲研讨院副院长、自然言语计算组担任人周明

微软亚洲研讨院副院长、自然言语计算组担任人周明则表示任重而道远:

“在WMT17测试集上的翻译后果到达人类程度很鼓舞人心,但仍有很多应战需求我们处理,比方在实时的旧事报道上测试零碎等。”


机器翻译新突破,微软中英新闻翻译达人类水平

微软亚洲研讨院副院长、机器学习组担任人刘铁岩

而微软亚洲研讨院副院长、机器学习组担任人刘铁岩对技术的停顿表示悲观:

“我们不晓得哪一天机器翻译零碎才干在翻译任何言语、任何类型的文本时,都能在“信、达、雅”等多个维度上到达专业翻译人员的水准。我们可以预测的是,新技术的使用一定会让机器翻译的后果日臻完善。”

据雷锋网理解,此次的技术打破将很快使用到微软的商用多言语翻译零碎产品中,从而协助其它言语或词汇更复杂、更专业的文本完成更精确、更地道的翻译。此外,这些新技术还可以被使用在机器翻译之外的其他范畴,催生更多人工智能技术和使用的打破。

机器翻译新突破,微软中英新闻翻译达人类水平