1. LLM (Large Language Model) —— 大语言模型

核心本质:

大模型从头到尾只做一件事:根据输入文字,输出文字

局限:

  • 大模型只认识数字,不认识文字。


2. Token —— 数据处理的基本单位

为什么需要 Token:

  • 为了让大模型理解文字,文字必须先转换成数字。

工作流程:

“你好” → Token 编码 → [12345, 67890] → 大模型处理 → [23456, 78901] → Token 解码 → “您好”

特点:

  • Token 不是单词

  • 常见中文里,1 个汉字 ≈ 1-2 个 Token

  • 计费按 Token 数计算


3. Context Window —— 大模型的“临时记忆”

Context (上下文):

  • 大模型在生成下一个词时所能看到的所有历史对话

  • 可以理解为大模型的临时记忆体

Context Window (上下文窗口):

Context 能容纳的最大 Token 数量

示例:
用户说:“我叫张三”
AI回答:“你好张三”
用户问:“我刚才说我叫什么?” ← 这句话必须在窗口内才能记住

局限:

  • 书籍、超长文档无法直接“丢给”大模型。

  • 强行塞入 → 成本高 + 注意力分散(模型抓不住重点)。


4. RAG (Retrieval-Augmented Generation) —— 检索增强生成

核心思想:

先检索,再生成。不靠死记硬背,靠现查资料。

工作流程:
用户问:“产品A的保修期是多久?”

价值:

只把最相关的几个片段发给大模型,让大模型只根据这几个片段回答,而不是依赖自己可能错误或过时的“记忆”。


5. Prompt —— 提示词

定义:

用户或系统当前给大模型下达的具体指令或问题

好 Prompt vs 坏 Prompt:

类型 示例 效果
坏 Prompt “帮我写代码” 太模糊,模型不知道要什么语言、什么模式
好 Prompt “用 Java 写一个单例模式,要求懒加载且线程安全,给出代码和注释” 清晰、具体、可执行

Prompt 的两个分类:

类型 谁配置 作用
User Prompt 用户 输入具体任务
System Prompt 后台开发者 设定人设、行为规则(对用户不可见)

System Prompt 示例:

“你是一位耐心的数学老师。当学生问你数学问题时,不要直接给出答案,而要一步一步引导学生思考,帮助他们理解解题思路。”

User Prompt 示例:

“3 + 5 = ?”

大模型在 System Prompt 作用下的回答:

“我们可以这样想,你手里有 3 个苹果,然后又拿了 5 个,现在一共有多少个呢?你可以数一数看。”


6. Tool —— 让大模型“伸出手”触碰外部世界

为什么需要 Tool:

大模型无法感知外界(如:天气、实时数据、发送邮件等)。

本质:

Tool 就是一个函数

工作流程:


7. MCP (Model Context Protocol) —— 模型上下文协议

为什么需要 MCP:

每个大模型调用工具的格式都不同。没有 MCP,开发者需要为每个模型写一套适配代码。

MCP 的本质:

大模型与外部工具之间的 “中间层协议”

  • 跑在调用大模型的那个应用程序里,而不是大模型内部。

比喻:

没有 MCP 有 MCP
每个电器都要自己配一个专用插座 统一的 USB 接口,谁插上都行

价值:

统一接入规范,一次开发,多个模型复用。


8. Agent —— 能自主规划和行动的智能体

Agent 的组成:

Agent = 大模型 + 能自主调用 Tool 的能力 + 能拆解任务的能力

示例:
用户下达复杂指令:

“帮我查一下张三这个月的考勤,如果缺勤超过 3 天就发邮件提醒他。”

Agent 自主拆解任务:

  1. 调用 search_employee("张三") → 拿到工号

  2. 调用 get_attendance(工号, "本月") → 拿到考勤数据

  3. 判断缺勤天数是否 > 3

  4. 如果是,调用 send_email(张三邮箱, "提醒文案")

与传统程序区别:

Agent 不是写死流程,而是动态决定调用哪些工具、按什么顺序调用。


9. Agent Skill —— Agent 的能力说明书

为什么需要 Skill:

每次出门都要重新输入:“请调用定位、天气预报,判断是否需要带雨伞、帽子、口罩,按表格输出……” → 太麻烦。

Skill 的本质:

给 Agent 看的「说明文档」,定义 Agent 可以复用哪些能力、如何使用。

Skill 的作用:

多个工具调用 + 输出格式要求打包成一个可复用的技能

效果:

用户只需说“使用出门准备 Skill”,Agent 自动:

  1. 调用定位 + 天气预报

  2. 按规则判断是否需要带雨伞、帽子、口罩

  3. 按表格格式输出

不需要每次都输入一堆提示词。


一张图总结

text

┌─────────────────────────────────────────────────────────────┐
│                      大模型应用技术栈                          │
├─────────────────────────────────────────────────────────────┤
│                                                             │
│  用户 ──→ Prompt ──→ LLM ──→ 输出                            │
│                         │                                    │
│                    ┌────┴────┐                              │
│                    ↓         ↓                              │
│                 Context    Tool                             │
│                 (临时记忆)  (触碰外界)                         │
│                    │         │                              │
│                    ↓         ↓                              │
│              Context Window  MCP                             │
│              (窗口大小)     (工具统一协议)                      │
│                              │                               │
│                              ↓                               │
│                            Agent                             │
│                    (大模型 + 工具 + 规划能力)                   │
│                              │                               │
│                              ↓                               │
│                         Agent Skill                          │
│                      (可复用的能力说明书)                       │
│                                                             │
└─────────────────────────────────────────────────────────────┘

核心术语速记表

术语 一句话定义
LLM 根据输入文字,输出文字
Token 大模型处理数据的最基本单元
Context 大模型每次处理任务时接收到的信息总和
Context Window Context 最多能存储的 Token 量
Prompt 当前给大模型的具体指令或问题
Tool 大模型用来感知和影响外部环境的函数
MCP 统一了工具接入格式的标准协议
Agent 能自主规划和调用工具的程序
Agent Skill 给 Agent 看的「可复用能力说明书」
RAG 先检索知识库,再生成回答
Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐