大模型学习路线与建议

2023-10-17 08:53:23 浏览数 (2)

第一章 深度学习基础

深度学习基础 深度学习经典模型解析 深度学习模型优化策略解析 深度学习GPU原理与应用方法 深度学习GPU并行训练策略解析 深度学习模型多GPU训练实战

第二章 智能对话系统基础

智能对话系统综述 多轮对话系统架构解析 QA系统架构解析 知识图谱系统架构解析 KBQA系统架构解析 生成式对话系统架构解析 智能对话系统发展展望 知识图谱系统实战

第三章 大模型基础

大模型技术概述 GPT 系列模型核心原理详解(GPT1/GPT2/GPT3/GPT4/InstructGPT) LLaMA 系列模型核心原理详解(LLaMA/Alpaca/Vicuna/BaiChuan/LLaMA2/BaiChuan2) LLaMA 系列模型源码详解 BLOOM 系列模型核心原理详解(BLOOM/BLOOMZ) ChatGLM 系列模型核心原理详(ChatGLM/ChatGLM2) Langchain 框架核心原理详解 Langchain-LLM部署应用实战

第四章 大模型应用实践

大模型微调概述 大模型微调中的核心要素 大模型微调中的数据收集与评估 大模型微调中ChatGPT的使用 大模型Tuning技术详解(Prompt-Tuning/Instruction-Tuning/P-Tuning) 大模型PEFT技术详解(Adapter/LoRA) 大模型全参数微调技术详解(DeepSpeed) 大模型RLHF技术详解(PPO/DeepSpeed-Chat) 基于常规NLP任务的大模型微调实战

第五章 大模型实战项目

大模型训练环境搭建 大模型数据收集与 instruction 设计 通用大模型微调代码开发(支持多模型/多框架) Baichuan-13B多GPU LoRA微调实现 Baichuan-13B多GPU 全参数微调实现 大模型性能评估体系搭建 大模型部署与服务接口开发 大模型界面化调用系统开发

0 人点赞