精读 Happy-LLM:从看懂原理到亲手搭一个大模型
📍 你在这里 训练进阶 · 第 9 篇 / 共 9 篇 ← 上一篇 精读 self-llm:第一次把开源大模型跑在自己电脑上 本文性质:开源教程精读与导读,非原文转载。内容基于 Datawhale 社区开源教程整理,属于个人学习笔记。 原文来源:《Happy-LLM:从零开始构建大模型》 — Dat
动手微调与训练模型,从 LoRA 到知识蒸馏
共 9 篇文章📍 你在这里 训练进阶 · 第 9 篇 / 共 9 篇 ← 上一篇 精读 self-llm:第一次把开源大模型跑在自己电脑上 本文性质:开源教程精读与导读,非原文转载。内容基于 Datawhale 社区开源教程整理,属于个人学习笔记。 原文来源:《Happy-LLM:从零开始构建大模型》 — Dat
📍 你在这里 训练进阶 · 第 8 篇 / 共 9 篇 ← 上一篇 大模型知识蒸馏:原理、方法与作用 · 下一篇 → 精读 Happy-LLM:从看懂原理到亲手搭一个大模型 看了一堆原理文章之后,多数人卡在同一个地方,不知道怎么让自己电脑上真的跑起一个模型。self-llm 就是给这个环节准备的,它
📍 你在这里 训练进阶 · 第 6 篇 / 共 9 篇 ← 上一篇 LLaMA Factory 微调框架 · 下一篇 → 大模型知识蒸馏:原理、方法与作用 https://www.bilibili.com/video/BV17jGdzAETg/?spm_id_from=333.337.search-
📍 你在这里 训练进阶 · 第 3 篇 / 共 9 篇 ← 上一篇 大模型微调基础:LoRA 原理与实践 · 下一篇 → 大模型微调步骤及示例 训练集准备 格式 [ { "instruction": "总结以下文本的核心内容", "input": "人工智能(AI)是研究、开发用
📍 你在这里 训练进阶 · 第 7 篇 / 共 9 篇 ← 上一篇 Qwen3 微调手册:基于 Unsloth 的实战流程 · 下一篇 → 精读 self-llm:第一次把开源大模型跑在自己电脑上 大模型知识蒸馏是一种将大型、复杂模型(教师模型)的知识迁移到小型、高效模型(学生模型)的技术。其目的是
📍 你在这里 训练进阶 · 第 1 篇 / 共 9 篇 刚进这个阶段?AI 学习路线图 是总入口,零基础请从人工智能简史:AI 是怎么诞生的看起。 ← 上一篇 精读 So-Large-LM(二):从分词到架构,再拆开智能体 · 下一篇 → 大模型微调基础:LoRA 原理与实践 本地安装的顺序是先安装
📍 你在这里 训练进阶 · 第 5 篇 / 共 9 篇 ← 上一篇 大模型微调步骤及示例 · 下一篇 → Qwen3 微调手册:基于 Unsloth 的实战流程 魔搭免费GPU:https://modelscope.cn/my/mynotebook/preset 学习视频:B站链接**
📍 你在这里 训练进阶 · 第 4 篇 / 共 9 篇 ← 上一篇 LLM 微调数据集格式:Alpaca 与 ShareGPT · 下一篇 → LLaMA Factory 微调框架 以下是Qwen3等大语言模型微调的详细总结,结合官方文档和实际案例,涵盖步骤、工具和设备要求: 一、微调步骤 (一)全
📍 你在这里 训练进阶 · 第 2 篇 / 共 9 篇 ← 上一篇 PyTorch 基础环境安装 · 下一篇 → LLM 微调数据集格式:Alpaca 与 ShareGPT 基础知识 参考:https://kq4b3vgg5b.feishu.cn/wiki/LxI9wmuFmiaLCkkoiCIcK