首页 / 技术专题CATEGORY / SPRINGFORALL

AI 训练进阶

动手微调与训练模型,从 LoRA 到知识蒸馏

共 9 篇文章

精读 Happy-LLM:从看懂原理到亲手搭一个大模型

📍 你在这里 训练进阶 · 第 9 篇 / 共 9 篇 ← 上一篇 精读 self-llm:第一次把开源大模型跑在自己电脑上 本文性质:开源教程精读与导读,非原文转载。内容基于 Datawhale 社区开源教程整理,属于个人学习笔记。 原文来源:《Happy-LLM:从零开始构建大模型》 — Dat

精读 self-llm:第一次把开源大模型跑在自己电脑上

📍 你在这里 训练进阶 · 第 8 篇 / 共 9 篇 ← 上一篇 大模型知识蒸馏:原理、方法与作用 · 下一篇 → 精读 Happy-LLM:从看懂原理到亲手搭一个大模型 看了一堆原理文章之后,多数人卡在同一个地方,不知道怎么让自己电脑上真的跑起一个模型。self-llm 就是给这个环节准备的,它

大模型知识蒸馏:原理、方法与作用

📍 你在这里 训练进阶 · 第 7 篇 / 共 9 篇 ← 上一篇 Qwen3 微调手册:基于 Unsloth 的实战流程 · 下一篇 → 精读 self-llm:第一次把开源大模型跑在自己电脑上 大模型知识蒸馏是一种将大型、复杂模型(教师模型)的知识迁移到小型、高效模型(学生模型)的技术。其目的是

PyTorch 基础环境安装

📍 你在这里 训练进阶 · 第 1 篇 / 共 9 篇 刚进这个阶段?AI 学习路线图 是总入口,零基础请从人工智能简史:AI 是怎么诞生的看起。 ← 上一篇 精读 So-Large-LM(二):从分词到架构,再拆开智能体 · 下一篇 → 大模型微调基础:LoRA 原理与实践 本地安装的顺序是先安装