📍 你在这里 训练进阶 · 第 8 篇 / 共 9 篇
← 上一篇 大模型知识蒸馏:原理、方法与作用 · 下一篇 → 精读 Happy-LLM:从看懂原理到亲手搭一个大模型
看了一堆原理文章之后,多数人卡在同一个地方,不知道怎么让自己电脑上真的跑起一个模型。self-llm 就是给这个环节准备的,它是本站在整个学习路线里推荐的实操手册,特点是按模型组织,不按知识点组织。
它解决的是哪一类问题
市面上的教程大多按知识分类,讲完 Transformer 讲微调,讲完微调讲量化部署。self-llm 反过来,它按模型分类,你想用 Qwen3,就去 Qwen3 那一节,环境配置、模型下载、推理调用、微调脚本全在一个目录里,跟着走一遍就能出结果。
仓库里覆盖了 61 个模型,国内主流的开源模型基本都在,Qwen、DeepSeek、GLM、Kimi、InternLM、MiniCPM 这些名字你应该都在 AI 日报里见过。这种组织方式的代价是原理讲得少,好处是你不会被目录结构和前置知识卡住,想用哪个直接翻到哪一节。
官方给的学习顺序
它自己的建议写得很清楚,先环境配置,再模型部署和使用,最后学微调。理由是环境配置是基础,部署使用是基础,微调是进阶。我认同这个顺序,也建议初学者从 Qwen 系列入手,它的中文文档和社区资料最全,遇到报错最容易搜到答案。
对应到本站的学习路线,这个顺序正好横跨阶段三和阶段四。先把模型跑起来、能对话,属于 AI 应用 的内容;再动手改它、微调它,就进入 AI 训练进阶 了。
我建议的使用方式
不要把它当成教材从头读到尾,它更像一本查阅手册。正确的用法是先定一个具体目标,比如「我要让模型能回答我们公司产品的售后问题」,然后顺着这个目标去找对应的章节。
具体分三步走。第一步,挑一个模型把推理跑通,这一步的意义是打通环境,成功了你就拥有了一个本地能用的 AI。第二步,照着它提供的示例换数据、改提示词,让它回答你自己的问题,这一步你会第一次直观感受到模型能力的边界。第三步,如果要让它更懂你的领域,就进微调章节。
站内已经有一些可以配合的内容,免费大模型 API 收藏 适合手边没有显卡时先起步,LLaMA Factory 微调框架 和 大模型微调步骤及示例 对应它的微调环节,PyTorch 基础环境安装 则是显卡环境的准备。
原文阅读建议
仓库地址在 github.com/datawhalechina/self-llm。建议先看根目录的 README 了解整体结构,再用 GitHub 的目录导航直接进到你关心的模型。它还在持续更新,新模型的支持通常跟着社区热度很快补上,遇到模型找不到就先看 README 的更新说明。
回到 AI 学习路线图 看它在整个学习顺序里的位置。下一批精读我会整理它的微调部分和一个完整的部署实例。
一起交流
分享你的思考,让讨论更进一步。