每天给你送来NLP技术干货！ ---- 编辑：机器之心 作者：李航 本文为清明之际，字节跳动人工智能实验室总监李航纪念导师之作。 2021年5月24日收到师弟的邮件，告知我们的导师、原京都大学教授长尾真先生于5月23日不幸去世，享年84...

机器之心专栏 机器之心编辑部 本文中，包括刘知远、唐杰、孙茂松等在内来自清华大学的研究者对大模型的参数高效微调进行了全方位的理论和实验分析。 预训练语言模型 (PLM) 已经毫无疑问地成为各种 NLP 任务的基础架构...

Python凭借其简洁的代码，赢得了许多开发者的喜爱。因此也就促使了更多开发者用Python开发新的模块，从而形成良性循环，Python可以凭借更加简短的代码实现许多有趣的操作。下面我们来看看，我们用不超过10行代码能实现些什么...

最近两年，我已经没有做过国内任何网站的爬虫了，根据这两年爬海外网站的一些经验，谈谈我的发现和想法。

---- 新智元报道   编辑：LRS 【新智元导读】AI语音生成的特点就是呆板，没有情绪的起伏。最近Meta AI连发了三篇Textless NLP的论文，不仅开源了textlesslib库，还展示了AI对话在语音情感转换的惊人能力！ 在日常交流的时候...

自然语言处理是通过构建算法使计算机自动分析、表征人类自然语言的学科。自然语言处理是计算机理解和生成自然语言的过程，自然语言处理技术使计算机具有识别、分析、理解和生成自然语言文本（包括字、词、句和篇章）的能力...

来源：专知本文约1000字，建议阅读5分钟本文介绍了在一个通用基准上训练和评估蛋白质语言模型的方法。 最近，伯克利大学Roshan Rao 157页博士论文介绍了在通用基准上训练和评估蛋白质语言模型的方法。随后，研究了模型缩放、...

机器之心报道 机器之心编辑部 谷歌的下一代架构 Pathways 已经用来训练大模型了。 ‍ 随着规模的增加，模型在处理多个任务时的性能逐渐提高，而且还在不断解锁新的能力。 在探讨现有 AI 模型的局限时，谷歌人工智能主管 J...

机器之心专栏 作者：李航 本文为清明之际，字节跳动人工智能实验室总监李航纪念导师之作。 2021年5月24日收到师弟的邮件，告知我们的导师、原京都大学教授长尾真先生于5月23日不幸去世，享年84岁。看到邮件时简直不敢相信自...

机器之心报道 编辑：杜伟、陈萍 给定固定的 FLOPs 预算，应该如何权衡模型大小和训练 token 的数量？DeepMind 得出了与先前不同的结论。 最近一系列大型语言模型 (LLM) 正在崛起，其中最大的语言模型已经拥有超过 5000 亿个...