了解大模型

在驾驭 OpenClaw 之前,了解它的“大脑”——大语言模型(LLM)是如何运作的,能帮你避开很多坑,并帮你省下不少钱。这篇科普将带你快速看透大模型的核心概念。

1. 大模型的分类与常用模型

市面上的大模型多如牛毛,但如果按核心能力和使用场景来划分,主要可以分为以下几类(涵盖目前最新的主流模型):

  • 聊天/通用型(Chat / General):各科均衡的“通才”,情商高、常识广,适合日常对话、文本润色、基础信息检索。
    • 国际代表:OpenAI 的 GPT-4o、Anthropic 的 Claude 3.5 Haiku、Google 的 Gemini 1.5 Pro / Flash
    • 国内代表:阿里的 Qwen-Max、智谱的 GLM-4、百度的 文心一言 4.0、字节的 豆包(Doubao-pro)、月之暗面的 Kimi
  • 深度推理型(Reasoning):理科状元,引入了“思维链(CoT)”。它们回答慢,但在数学、复杂逻辑推演和系统架构设计上具有降维打击的能力。
    • 典型代表:OpenAI 的 o1 / o3-mini、深度求索的 DeepSeek-R1(目前开源推理模型的巅峰)。
  • 编程/代码型(Coder):专门吃代码长大的“程序员”。在代码补全、Bug 排查和长上下文代码阅读上远超通用模型。
    • 典型代表:Anthropic 的 Claude 3.5 Sonnet(目前地表最强前端与代码模型)、阿里的 Qwen2.5-Coder、深度求索的 DeepSeek-Coder-V2、法国的 Mistral Large 2
  • 多模态与生图型(Multimodal / Vision):长了眼睛和手,能看懂图片、甚至画图。
    • 典型代表:OpenAI 的 Sora(视频生成)、Midjourney v6Flux.1(纯生图),以及各家带 Vision/VL 尾缀的模型(如 Qwen-VLGLM-4V)。
  • 领域专家型(Specialist):只干一件事但干到极致的“超级小模型”,通常参数极小,速度极快。
    • 典型代表:DeepSeek OCR(专精图像文字提取)、BGE(专精向量检索)、各类专精 Markdown 排版的微调模型。

2. 什么是“参数(Parameters)”?

在挑选模型时,你经常会看到“Llama 3 70B”或者“Qwen 72B”这样的名字。这里的 “B” 代表 Billion(十亿)。70B 就是 700 亿参数。

  • 参数可以理解为模型的“脑容量”和“连接突触”。参数越大,模型包含的世界知识就越多,逻辑推理能力通常也越强。
  • 代价:参数越大,运行它所需的显存(显卡)和算力成本就成倍增加。这就是为什么你很难在普通家用电脑上跑动千亿参数的模型,通常只能通过 API 调用云端服务。

3. 为什么需要“专家模型”与“超级小模型”?

既然参数越大越聪明,那我们是不是所有事情都应该交给千亿参数的“大聪明”来做?并不是。

  • 杀鸡焉用牛刀:如果你只是想让 AI 帮你从图片里提取一段文字,调用 GPT-4o 就像是雇了一位诺贝尔奖得主来帮你抄笔记,既昂贵又浪费。
  • 小而美:现在 AI 领域的趋势是走向“专家分工”。比如专门做图像文字识别的 DeepSeek OCR,它们参数很小(可能只有几 B),跑得极快,成本几乎为零,但在特定任务上往往比大模型更精准。

在 OpenClaw 的高阶玩法中,我们常常会让主 Agent(聪明的大模型)去调用这些“超级小模型(Skill)”。让专业的模型干专业的事,这就是现代 AI 架构的魅力。

4. 什么是“Token”?(关于你的钱包)

大模型的“脑容量”决定了它的聪明程度,而它读写文字的方式则直接决定了你的花费。

大模型不认识我们人类的字,它认识的是 Token(词元/分词)

  • Token 不是字节(Byte)也不是字符,它是大模型理解语义的最小单位(你可以把它想象成模型眼里的“词根”)。
  • Token 的进化方向:早期的分词非常机械,但随着模型进化,Token 最终要么是一个完整的单词,要么是一个常用的词组,越来越接近人类的自然分词习惯
  • 比如“中国人民大团结”这 7 个字:
    • 在早期对中文不友好的模型里,可能会被死板地切成“中/国/人/民/大/团/结”甚至乱码,消耗 7 个以上的 Token。
    • 在针对中文优化过的模型(如 Qwen 或 DeepSeek)里,它已经能够像人类一样理解词组,直接将其切分为“中国人民 / 大团结”,只消耗 2 个 Token。
  • 这就是为什么选用对中文友好的模型,不仅回答更地道,而且更省钱(因为相同的字数消耗的 Token 更少)。

5. 计费陷阱:输入、输出与“思考模式”

理解了 Token,你还需要知道商业大模型的计费逻辑。计费是双向的,且充满“陷阱”:

输入与输出的不对等

  1. 输入 Token(Input):你发给它的问题、背景资料、代码文件。这部分通常比较便宜。
  2. 输出 Token(Output):它回答你的内容。因为生成文字需要大模型进行复杂的逐词概率计算,消耗更多算力,所以输出 Token 的价格通常是输入 Token 的 3 到 5 倍

避坑指南:如果你一次性把整个项目的几万行代码全发给它(极高的输入 Token),其实是在烧钱。这就是为什么 OpenClaw 提倡“按需读取文件”而不是“全量喂入”。

隐藏的吞金兽:“思考(Thinking)模式”

像 DeepSeek-R1 或 OpenAI 的 o1 系列模型,引入了“思维链(Chain of Thought)”机制。当你问它一个复杂问题时,它不会立刻作答,而是会先在后台“自言自语”地进行推导和试错。

  • 这些“自言自语”的过程虽然你可能看不见,但它们全部算作输出 Token(Reasoning Tokens),会疯狂消耗你的余额
  • 避坑指南:思考模式会让消耗量成倍甚至十倍增加。对于简单的日常对话或明确的代码修改,开启深度思考模式纯粹是浪费。好钢要用在刀刃上(比如架构设计或排查陈年 Bug)。

正文导航

打开抖音
有问题点击我