开源nlp

雷锋网(公众号：雷锋网) AI 源创评论按： 近日，谷歌宣布将 AI 语言模型 ELECTRA 作为 TensorFlow 之上的开源模型发布。该方法用到了一种称为替换令牌检测（RTD）的新预训练任务，使其能够在从所有输入位置学习的同时，训练双向模型。 并且，在同等计算资源的情况

Transformer 可谓是近年 NLP 领域关注度颇高的模型之一。2017 年，Google 发表题为“Attention Is All You Need”的论文，提出了完全基于注意力机制（attention mechanism）的网络框架 Transformer。2018 年，Google 开源了基于 Trans

雷锋网 AI 开发者按： 一个月前，在「AICon 全球人工智能与机器学习技术大会」上，华为诺亚方舟实验首席科学家刘群刚分享了新发布的中文预训练语言模型 NEZHA（哪吒）；就在这两天，NEZHA 已在 Github 上开源，同时开源的还有压缩 BERT 模型「TinyBERT」，它在推理时大小可缩小 7.5

雷锋网(公众号：雷锋网) AI 科技评论按： 7 月 30 日，百度发布了 ERNIE（Enhanced Representation through kNowledge IntEgration）的优化版本——ERNIE 2.0 自然语言理解框架。这个中英文对话的 AI 框架不仅获得了最

雷锋网(公众号：雷锋网) AI 科技评论按： 去年 11 月份，谷歌研究团队在 GitHub 上发布了万众期待的 BERT，它不仅在 11 项 NLP 测试中刷新了最高成绩，甚至还表现出全面超越人类的惊人结果。但 BERT 带来的震撼还未平息，今日又一个令众多 NLPer 兴奋的消息发布

雷锋网 AI科技评论消息，艾伦人工智能研究院（AI2）开源AllenNLP，它是一个基于PyTorch的NLP研究库，利用深度学习来进行自然语言理解，通过处理低层次的细节、提供高质量的参考实现，能轻松快速地帮助研究员构建新的语言理解模型。AllenNLP能让设计和评估新的深度学习模型变得简单，几乎适用于任何NLP问题，

1 新智元编译编译：刘小芹 本文按计算机视觉、自然语言处理、语音识别、地理空间数据等 人工智能 的子领域分类，精心整理，每个数据集均附有下载链接，是做 AI 研究不容错过资源。 今天，构造 AI 或机器学习系统比以往任何时候都更加容易。我们有许多开源的最前沿的工具，如 TesorFlow，

选自OpenNMT机器之心编译参与：吴攀神经机器翻译是近段时间以来推动机器翻译发展的主要推动力。今天，哈佛大学自然语言处理研究组（Harvard NLP）宣布开源了其研发的神经机器翻译系统 OpenNMT，该系统使用了 Torch 数学工具包。该研究组在官网上表示该系统已经达到生产可用的水平（industrial-st