1. 首页
  2. 人工智能

微信AI首次夺冠WMT2020国际机器翻译大赛中英方向

速途网7月8日讯(报道:乔志斌)近日,WMT2020国际机器翻译大赛的榜单停止提交结果并发布排名,其中腾讯微信AI团队在「中文-英文」翻译任务上夺得冠军。

WMT 是机器翻译领域的国际顶级评测比赛之一在赛制上,组委会根据中英、英中、中日等不同翻译任务提供测试集,参赛者在线提交机器翻译结果,组委会将根据在国际上具有广泛认可度的BLEU自动评估指标对参赛者提交的机器译文和标准答案进行拟合计算,拟合程度高者排在前面。其中「中文-英文」翻译任务是大赛历年来竞争最激烈的领域,也是最大的看点之一,在历届冠军中,微软、腾讯翻译君、搜狗都榜上有名。

此次大赛竞争激烈,各参赛方共计提交近300次数据,最终微信AI团队经过多次角逐脱颖而出,成功占据自动评估指标的榜首。值得一提的是,BLEU评分前两名的机器译文均由微信AI团队提交。同时,今年微信AI仅使用了官方提供的数据(也就是受限资源),超过了所有使用受限资源和无限资源的系统。

在本次大赛上,微信翻译在技术上以更深和更宽的Transformer结构(包括Self-attention和Average-attention)和 自研的Deep Transition结构(DTMT)为基础,用融合领域内知识的数据增强方法迭代生成高质量的伪数据,并利用Self-Bleu的组合剪枝策略集成模型并利用集成模型的知识蒸馏单模型,除了常规的交叉熵训练,还采用三种改进的训练方法来缓解偏差问题,包括改进的Scheduled Sampling训练方法、针对目标端输入的抗噪训练和更稳定的最小化贝叶斯风险训练。

目前,微信翻译已成为一个日翻译数十亿字符的大型多语言机器翻译引擎,支持多语种间的双向翻译,在翻译质量上均达到业界领先水平。服务场景已涵盖微信对话翻译、朋友圈翻译、微信扫一扫等,同时还为腾讯小微、微信对话开放平台、微信读书、QQ邮箱等提供翻译服务支持,后续会陆续运用于更多的场景。

除了在智能翻译领域取得优秀成绩外,微信AI团队基于深度学习研发的微信智聆语音识别技术,每天处理超过4亿条语音,语音识别正确率达到97%,并在微信语音输入、语音转文字、王者荣耀、QQ音乐等产品中提供了技术支持。而专注智能对话和NLP的微信智言,则以腾讯小微开放能力为核心,为除了家居硬件、PaaS、行业云和AI Bot等领域提供技术支持,

在技术开源方面,微信AI开发自研并开源了Transformer推理引擎,这也是腾讯对外开源的第100个项目。该推理引擎在CPU/GPU两种硬件平台上都可以获得最佳性能表现,速度快于pytorch/tensorflow和目前主流Transformers加速方案,且更适合NLP任务特点,无需图层次预处理,支持变长输入序列输入。TurboTransfromers在腾讯内部的游戏、内容生态、广告与金融等领域获得了广泛使用和认可