
├── PART1
│ ├── 第1章
│ │ ├── 2. AI技术浪潮:弱人工智能、机器学习、深度学习、大语言模型
│ │ ├── …
│ │ ├── 5. AI大模型四阶技术总览:提示工程(Prompt Engineering)
│ │ ├── 6. AI大模型四阶技术总览:AI智能体(Agents)
│ │ ├── 7. AI大模型四阶技术总览:大模型微调(Fine-tuning)
│ │ └── 8. AI大模型四阶技术总览:预训练技术(Pre-training)
│ ├── 第2章
│ │ ├── …
│ │ ├── 4. 大语言模型:注意力机制
│ │ ├── 5. 大语言模型:Transformer网络架构
│ │ ├── 6. 大语言模型:GPT-1与BERT
│ │ └── 7. 大语言模型:暴力美学GPT系列模型
│ ├── 第3章
│ │ ├── …
│ │ ├── 2. Hugging Face Transformers快速入门
│ │ ├── 3. Transformers核心功能模块
│ │ ├── 4. 大模型开发环境搭建
│ │ └── 5. 实战Hugging Face Transformers工具库
│ ├── 第4章
│ │ ├── …
│ │ ├── 2. 数据集处理库Hugging Face Datasets
│ │ ├── 3. Transformers模型训练入门
│ │ ├── 4. 实战训练BERT模型:文本分类任务
│ │ └── 5. 实战训练BERT模型:QA任务
│ ├── 第5章
│ │ ├── …
│ │ ├── 2. Before PEFT:Hard Prompt Full Fine-tune
│ │ ├── 3. PEFT主流技术分类介绍
│ │ ├── 4. PEFT – Adapter技术
│ │ ├── 5. PEFT – Soft Prompt 技术(Task-specific Tuning)
│ │ └── …
│ ├── 第6章
│ │ ├── …
│ │ ├── 2. LoRA低秩适配微调技术
│ │ ├── 3. AdaLoRA自适应权重矩阵微调技术
│ │ ├── 4. QLoRA量化低秩适配微调技术
│ │ ├── 5. UniPELT:大模型PEFT统一框架
│ │ └── …
│ ├── 第7章
│ │ ├── …
│ │ ├── 2. Hugging Face PEFT 快速入门
│ │ ├── 3. OpenAI Whisper 模型介绍
│ │ └── 4. 实战 LoRA 微调 Whisper-Large-v2 中文语音识别
│ ├── 第8章
│ │ ├── …
│ │ ├── 2. 模型显存占用与量化技术简介
│ │ ├── 3. GPTQ:专为 GPT 设计的模型量化算法
│ │ ├── 4. AWQ:激活感知权重量化算法
│ │ ├── 5. BitsAndBytes(BnB) :模型量化软件包
│ │ └── 6. 实战 Facebook OPT 模型量化
│ └── 第9章
│ ├── …
│ ├── 2. 基座模型 GLM-130B
│ ├── 3. 扩展模型:联网检索、多模态、代码生成
│ ├── 4. 对话模型 ChatGLM 系列
│ ├── 5. ChatGLM3-6B 微调入门
│ └── 6. 实战 QLoRA 微调 ChatGLM3-6B
└── PART2
├── 第10章
│ ├── …
│ ├── 2. 使用 ChatGPT 自动设计生成训练数据的 Prompt
│ ├── 3. 合成数据: LangChain + GPT-3.5 Turbo
│ ├── 4. 数据增强:提升训练数据多样性
│ ├── …
│ └── 6. 实战私有数据微调 ChatGLM3
├── 第11章
│ ├── …
│ ├── 2. ChatGPT 大模型训练核心技术
│ ├── 3. 基于人类反馈的强化学习(RLHF)技术详解
│ └── 4. 基于 AI 反馈的强化学习(RLAIF)技术
├── 第12章
│ ├── …
│ ├── 2. MoEs 技术发展简史
│ ├── 3. MoEs 与大模型结合后的技术发展
│ └── 4. MoEs 实例研究:Mixtral-8x7B
├── 第13章
│ ├── …
│ ├── 2. LLaMA 1 大模型技术解读
│ ├── 3. LLaMA 1 衍生模型大家族
│ ├── 4. LLaMA 2 大模型技术解读
│ └── 5. 申请和获取 LLaMA 2 模型预训练权重
├── 第14章
│ ├── …
│ ├── 2. 大模型训练技术总结
│ ├── 3. LLaMA2-7B 指令微调上手实战
│ └── 4. 再谈中文指令微调方法
├── 第15章
│ ├── …
│ ├── 3. Zero Redundancy Optimizer ZeRO技术详解
│ ├── 4. Microsoft DeepSpeed 框架和核心技术
│ ├── 5. 分布式模型训练并行化技术对比
│ ├── 6. DeepSpeed 与 Transformers 集成训练大模型
│ ├── …
│ ├── 9. 使用 DeepSpeed 单机多卡、分布式训练
│ └── 10. 实战 DeepSpeed ZeRO-2 和 ZeRO-3 单机单卡训练
├── 第16章
│ ├── …
│ ├── 2. 蓝色星球的算力霸主:NVIDIA
│ ├── …
│ ├── 5. 华为昇腾全栈 AI 软硬件平台介绍
│ └── 6. 实战:华为 Ascend 910B 微调 ChatGLM 6B 模型
├── 第17章
│ ├── 1. GLM 大模型家族介绍
│ ├── 2. GLM 模型部署微调实践
│ ├── 3. CogVLM模型部署实践
│ ├── 4. 选学 智谱第四代 API 介绍
│ ├── …
│ └── 6. 使用 GLM-4 API 构建模型和应用
└── 直播回放
├── 8.29 第一次直播答疑
├── 9.26 第三次直播答疑
└── 10.17 第四次直播答疑