AI 是怎么工作的：写给零基础的白话课

📍 你在这里　AI 启蒙 · 第 2 篇 / 共 3 篇

← 上一篇 人工智能简史：AI 是怎么诞生的　·　下一篇 → AI 的价值地图：它正在改变哪些领域

你对 ChatGPT 说过话，见过它一个字一个字往外蹦。这篇文章讲清楚一件事，屏幕上那个字是怎么被挑出来的。弄懂之后，你对 AI 的很多困惑会自己消失，比如它为什么有时一本正经地胡说，为什么换个问法效果差很多，为什么各家模型能力差别那么大。

一、它在做的事是猜下一个词

模型收到你的话，把文字切成小块，每一块叫一个 token，中文里通常一个词或半个词是一个 token。然后它做一件事，按概率猜下一个最可能出现的 token。猜出来就接到句子后面，再猜下一个，如此循环，直到说完。

本站《提示词工程》一文里有句话概括得准，大语言模型的本质是预测引擎。它接在你输入的后面逐字续写，写出来的句子在语法和逻辑上都像模像样，因为决定它写什么的，正是你给的那段上文。

这也解释了提示词为什么重要。你写下的每个字都在改变它对下一个词的判断，所以上下文给得越具体、方向越明确，它猜出来的内容越靠得住。

二、猜词的本事是读出来的

模型怎么知道下一个词该猜什么。靠读。训练阶段，它把互联网上海量的文本一遍遍读完，每读到一处，就试着预测后面的内容，猜错就把内部上千亿个数字参数微调一点，让下次猜得更准。这个「从数据里自己找规律、猜错就自我修正」的过程叫训练，站内《机器学习》一文讲了它的完整逻辑。

参数是模型内部用来表达规律的数字，可以理解成它读完书后记在脑子里的笔记。参数越多，能记住的规律越细腻，训练和运行也越烧钱。所谓大模型，指的就是参数量动辄几百亿起步的那类语言模型，具体定义和分类在《AI 大模型入门》里。

读的方式也有讲究。一层层的神经网络把文字逐级加工，底层认出词和句式，高层理解语义和指代，这就是《深度学习》讲的多层网络。而 2017 年提出的 Transformer 架构，让模型能同时照顾到句子里相隔很远的词，比如读到「它」时回头确认指的是前文哪只猫。今天的大模型清一色建在它上面，想看它的内部构造，读 Happy-LLM 第二章，书里带你亲手搭一个。

三、它为什么会一本正经地胡说

关键在于，模型从头到尾没有查过任何资料。它按「读起来像真的」来续写，编造的内容和真话在形式上毫无区别。人编故事要圆，它编故事同样圆，于是幻觉出现了。

站内《检索增强生成 RAG》把解法讲得很清楚。先让系统在资料库里把相关原文找出来，连同你的问题一起交给模型，让它照着资料回答。模型依旧在续写，但这次续写的是给它的材料，凭空编造的空间小得多。企业里做知识问答，几乎都走这条路。

还有一个常见误区要提前拆掉。模型的训练数据有截止日期，之后发生的事它不知道。你问它昨天的新闻，它会用旧知识拼一个像新闻的回答，这是机制决定的，与模型聪明不聪明无关。要接实时信息，同样得靠外挂工具。

四、从这里往哪走

现在你已经有了三块拼图。猜词机制对应《提示词工程》，训练过程对应《机器学习》和《深度学习》，补知识的外挂对应《检索增强生成 RAG》。把这几篇读完，市面上大部分 AI 科普内容你都能一眼看穿含金量。

完整的阅读顺序在 AI 学习路线图 里。如果你想亲手造一个，Happy-LLM 第五章带你从零搭建一个小模型，第六章教你怎么训练它。眼过千遍不如手过一遍，这句话在 AI 学习上尤其成立。