Facebook开源CNN机器翻译的PyTorch实现,速度提高80%

2018-03-26 17:03:21 浏览数 (1)

李林 编译整理 量子位 出品 | 公众号 QbitAI

还记得Facebook那篇用CNN做机器翻译的论文吗?Convolutional Sequence to Sequence Learning

在那篇论文中,Facebook的研究人员们展示了他们的研究成果:用CNN来做机器翻译,达到顶尖的准确率,速度则是RNN的9倍。

同时,Facebook还开放了seq2seq学习工具包fairseq的Torch源代码和已训练的系统。

最近,Facebook又开源了fairseq的PyTorch版:fairseq-py

根据Facebook在GitHub上的介绍,fairseq-py包含论文中描述的全卷积模型,支持在一台机器上用多GPU进行训练,以及CPU和GPU上的快速beam search生成。

fairseq-py可以用来里实现机器翻译,也能用于其他seq2seq的NLP任务。

这个开源工具包同时还包含英译法、英译德的预训练机器翻译模型。

fairseq-py比之前的Torch版更高效,翻译的速度提高了80%,训练速度提升近50%。

fairseq-py的GitHub链接: https://github.com/facebookresearch/fairseq-py

论文Convolutional Sequence to Sequence Learning: https://arxiv.org/abs/1705.03122

Torch版GitHub链接: https://github.com/facebookresearch/fairseq

用户论坛: https://groups.google.com/forum/#!forum/fairseq-users

0 人点赞