培养大模型人才
需要这样的课程
课程大纲:大厂大牛带路,直击大厂标准,实战贯穿全程
阶段一
深度学习基础
点击收起
核心技术
- 深度学习基本概念
- 深度学习经典模型解析
- 深度学习模型优化策略解析
- 深度学习GPU原理与应用方法
- 深度学习GPU并行训练策略解析
掌握技能
- 深度学习基本概念
- Transformer 核心原理
- BERT 系列模型核心原理
- T5 模型核心原理
- 深度学习模型优化策略
- GPU架构原理与CUDA编程原理
- GPU在深度学习训练/推理过程中的应用
- GPU多卡并行技术
项目实战
深度学习模型多GPU训练实战
- 1模型训练流程详解
- 2模型训练环境搭建
- 3模型 CPU/GPU 训练代码开发
- 4模型 多GPU并行训练代码开发
- 5模型推理代码开发
- 6模型效果评估与优化
课程特点
覆盖深度学习基础理论,全方位讲解深度学习基本概念,从经典模型出发,深入浅出地讲解经典模型原理,对深度学习模型优化策略、GPU原理、CUDA编码原理、GPU应用方法及GPU多卡加速策略等核心技术进行细致讲解。
通过算法原理、企业经验及代码实践三位一体的课程安排,带你进入深度学习的世界,补齐你在模型理解和应用过程中的短板,让你更好的掌握深度学习基础技能。
阶段二
智能对话基础
点击展开
核心技术
- 智能对话系统综述
- 多轮对话系统架构解析
- QA系统架构解析
- 知识图谱系统架构解析
- KBQA系统架构解析
- 生成式对话系统架构解析
- 智能对话系统发展展望
掌握技能
- 对于企业智能对话系统的深入理解
- 从企业应用角度理解多轮对话系统
- 从企业应用角度理解知识图谱系统
- 从企业应用角度理解KBQA系统
- 从企业应用角度理解FAQ系统
- 从企业应用角度理解生成式对话系统
- 对不同对话系统集成策略的深入理解
项目实战
知识图谱系统实战
- 1企业知识图谱应用架构详解
- 2企业级图数据库搭建
- 3图谱界面化管理系统搭建
- 4知识图谱建模与完整知识图谱体系构建
- 5企业级多语言上游接入服务开发
课程特点
从企业实际应用角度出发,介绍讲师实际主导过的各类智能对话系统的设计和开发过程,深入讲解各类系统的设计思路以及应用过程中的各类问题和解决方案,让你全方位理解智能对话系统
阶段三
大模型基础
点击展开
核心技术
- 大模型技术概述
- GPT 系列模型核心原理详解
- LLaMA 系列模型核心原理详解
- LLaMA 系列模型源码详解
- BLOOM 系列模型核心原理详解
- ChatGLM 系列模型核心原理详解
- Qwen 大模型核心原理讲解
- Langchain 框架核心原理详解
掌握技能
- GPT系列模型核心原理(GPT1/GPT2/GPT3/GPT4/InstructGPT)
- LLaMA系列模型核心原理(LLaMA/Alpaca/Vicuna/BaiChuan/LLaMA2)
- 优秀开源大模型核心原理(BLOOM/BLOOMZ/ChatGLM/ChatGLM2/Qwen)
- 大模型应用框架LangChain核心原理
项目实战
Langchain-LLM部署应用实战
- 1Langchain六大核心模块模块详解与代码实现
- 2Langchain-LLM系统搭建
- 3Langchain-LLM系统部署
- 4Langchain-LLM应用接入
课程特点
从论文出发,全面覆盖大模型核心技术原理,深入浅出的讲解大模型相关技术、核心模型原理及模型源码,为之后的大模型实践打下坚实的理论基础。
阶段四
大模型微调原理
点击展开
核心技术
- 大模型微调概述
- 大模型微调中的核心要素
- 大模型微调中的数据收集与评估
- 大模型微调中ChatGPT的使用
- 大模型Tuning技术详解
- 大模型PEFT技术详解
- 大模型全参数微调技术详解
- 大模型RLHF技术详解
- 大模型内容生成技术详解
掌握技能
- 大模型微调所需的核心要素
- 大模型微调的数据收集和处理过程
- 使用ChatGPT 获取高质量训练数据
- 大模型Tuning技术核心原理 (Prompt-Tuning/Instruction-Tuning/P-Tuning)
- 大模型PEFT技术核心原理
- 大模型全参数微调技术核心原理(DeepSpeed)
- 大模型RLFH技术核心原理(PPO/DeepSpeed-Chat)
- 大模型微调代码实现与参数配置
- 通过大模型微调解决传统NLP任务
项目实战
基于常规NLP任务的大模型微调实战
- 1NLP常规任务数据instruction设计
- 2大模型训练环境搭建
- 3大模型微调代码详解
- 4大模型微调参数详解
- 5基于常规NLP任务的大模型微调
课程特点
大模型微调技术栈全覆盖,深入讲解所有主流大模型微调技术,深入讲解大模型核心训练代码,通过使用大模型完成传统NLP任务,让你真正的掌握大模型微调的整体流程。
阶段五
项目实战
点击展开
核心技术
- 项目实战—基于大模型的可视化AIGC问答系统开发
- AIGC问答系统—大模型训练环境搭建
- AIGC问答系统—大模型数据收集与 instruction 设计
- AIGC问答系统—通用大模型微调代码开发(支持多模型/多框架)
- AIGC问答系统Baichuan-13B多GPU LoRA微调
- AIGC问答系统—Baichuan-13B多GPU 全参数微调实现
- AIGC问答系统—大模型性能评估体系搭建
- AIGC问答系统—大模型部署与服务接口开发
- AIGC问答系统—大模型界面化调用系统开发项目总结与答疑
掌握技能
- 基于大模型的智能对话系统架构
- 大模型训练的环境搭建与数据收集过程
- 支持多种模型多种训练框架的微调代码开发
- 大模型多GPU LoRA/全参数微调技巧
- 大模型评估策略
- 大模型训练的完整开发流程
- 大模型界面化调用系统
课程特点
从项目实战出发,基于百亿参数大模型Baichuan-13B,从零搭建基于大模型的AIGC对话系统,让学员掌握从环境搭建、数据构建、大模型微调到界面化调用的整个过程,掌握大模型微调的完整链路,并建立界面化的大模型调用系统