THU数据派
来源:专知
自然语言处理是实现人工智能、通过图灵测试的关键。虽然目前深度学习在自然语言处理上取得了巨大的突破,对自然语言的深度理解仍需要复杂知识的支持,来实现从理解字面意思到言外之意的跃迁。本文介绍清华大学刘知远老师的《知识指导的自然语言处理》。
深度学习在自然语言处理取得了巨大图谱,它能够高效学习多粒度语言单元间复杂语义关联。但是仅仅依靠深度学习并不能完成对自然语言的深度理解。对自然语言的深度理解需要从字面意义到言外之意的跃迁,这需要引入复杂知识的支持。
HowNet等知识库通过人工标注的方式积累了大量的知识,通过深度学习 知识图谱这种双向驱动的自然语言处理技术和体系,可以充分发挥深度学习和知识库的作用,更深层次地理解自然语言。
《知识指导的自然语言处理》主要内容如下:
- 自然语言处理与AI
- 数据驱动的自然语言处理:深度学习
- 自然语言的特点与技术挑战
- 表示学习
- 深度学习 知识图谱 双向驱动的自然语言处理技术体系
- 语言知识库
- HowNet
- 深度学习与HowNet
- 融合义原知识的词义表示学习
- 融合义原知识的神经语言模型
- 基于语义表示学习的义原推荐
- 义原只是计算相关论文
- 世界知识库
- 知识表示学习
- 世界知识的分布式表示学习
- 知识指导的实体细粒度分类
- 知识知道的神经网络文档排序
- 知识指导的预训练语言模型
- 世界知识指导自然语言处理相关论文
- 知识获取
- 神经网络知识获取技术
- 高效鲁棒的知识获取技术
- 开源工具
刘知远主页:
http://nlp.csai.tsinghua.edu.cn/~lzy/
完整版PPT下载链接(清华内网):
http://nlp.csai.tsinghua.edu.cn/~lzy/talks/2019_knowledge_guided_nlp_cn.pdf
PPT预览: