最新 最热

在注意力中重新思考Softmax:分解非线性,这个线性transformer变体实现多项SOTA

机器之心报道编辑:杜伟、陈萍 来自商汤、上海人工智能实验室等机构的研究者用线性 COSFORMER 来取代 transformer 中的 softmax 注意力机制,在多项任务上达到最优。 Transformer 在自然语言处理、计算机视觉和音频处理...

2022-03-04
0

吴恩达:AI的下一个发展方向,从大数据转向小数据

机器之心报道 编辑:陈萍、泽南 AI 发展方向需要转向「小数据」了。 吴恩达(Andrew Ng)在 AI 领域有着很高的声誉。在 2000 年代后期,他率先使用 GPU 与斯坦福大学的学生一起训练深度学习模型,并于 2011 年创立了 Google Br...

2022-03-04
0

单个Transformer完成信息检索,谷歌用可微搜索索引打败双编码器模型

选自arXiv 作者:Yi Tay等 机器之心编译 编辑:陈萍 谷歌提出基于 Transformer 的可微文本检索索引,明显优于双编码器模型等强大基线,并且还具有强大的泛化能力,在零样本设置中优于 BM25 基线。 信息检索 (Information Retri...

2022-03-04
0

Fudan DISC推出跨视觉语言模态预训练模型MVPTR:多层次语义对齐实现SOTA(已开源)

机器之心专栏 复旦大学数据智能与社会计算实验室 复旦大学数据智能与社会计算实验室(Fudan DISC)推出大规模跨视觉语言模态预训练模型:MVPTR。 本文介绍了 Fudan DISC 实验室提出的一种基于多层次语义对齐的多阶段视觉 -...

2022-03-04
0

CMU携手NUS、复旦推出DataLab:打造文本领域数据分析处理的Matlab

机器之心专栏 作者:刘鹏飞 以数据为中心,实现各种不同操作接口的标准化,使得用户在数据处理上只需要有一个入口,这就是 DataLab 期待扮演的角色。 建立以数据为中心的人工智能已经成为一个正在到来的趋势。一年多前,吴恩...

2022-03-04
0

ACL 2022录用结果出炉:国内多支团队晒“战绩”,清华一实验组18篇入选

大数据文摘转载自数据实战派 2月24日,第 60届国际计算语言学协会年会(ACL 2022)公布接收结果。值得一提的是,该结果系大会采用 ACL Rolling Review 机制后的首次尝试。 根据官方公开信息,现将多支国内团队的录取结果汇总如...

2022-03-04
0

重磅!Elasticsearch 8 正式发布!

点击上方蓝色字体,选择“设为星标” 回复”学习资料“获取学习宝典 文 | Travis 出品 | OSC开源社区(ID:oschina2013)Elasticsearch 是一个基于 Lucene 库的搜索引擎。它提供了一个分布式、支持多租户的全文搜索引擎,具...

2022-03-04
1

清华姚班陈丹琦获斯隆奖!博士毕业论文是近十年最热之一

点击 机器学习算法与Python学习 ,选择加星标 精彩内容不迷路 量子位 | 公众号 QbitAI 清华姚班大神陈丹琦,刚刚有了最新荣誉。斯隆研究奖得主。 获得这个奖项的研究者,将得到为期两年75000美元的奖金。此前,与陈丹琦同...

2022-03-04
0