LLM → Agent:赋予大模型“行动力”
1. LLM (Large Language Model) —— 大语言模型
核心本质:
大模型从头到尾只做一件事:根据输入文字,输出文字。
局限:
-
大模型只认识数字,不认识文字。
2. Token —— 数据处理的基本单位
为什么需要 Token:
-
为了让大模型理解文字,文字必须先转换成数字。
工作流程:
“你好” → Token 编码 → [12345, 67890] → 大模型处理 → [23456, 78901] → Token 解码 → “您好”
特点:
-
Token 不是单词。
-
常见中文里,1 个汉字 ≈ 1-2 个 Token。
-
计费按 Token 数计算。
3. Context Window —— 大模型的“临时记忆”
Context (上下文):
-
大模型在生成下一个词时所能看到的所有历史对话。
-
可以理解为大模型的临时记忆体。
Context Window (上下文窗口):
Context 能容纳的最大 Token 数量。
示例:
用户说:“我叫张三”
AI回答:“你好张三”
用户问:“我刚才说我叫什么?” ← 这句话必须在窗口内才能记住
局限:
-
书籍、超长文档无法直接“丢给”大模型。
-
强行塞入 → 成本高 + 注意力分散(模型抓不住重点)。
4. RAG (Retrieval-Augmented Generation) —— 检索增强生成
核心思想:
先检索,再生成。不靠死记硬背,靠现查资料。
工作流程:
用户问:“产品A的保修期是多久?”
价值:
只把最相关的几个片段发给大模型,让大模型只根据这几个片段回答,而不是依赖自己可能错误或过时的“记忆”。
5. Prompt —— 提示词
定义:
用户或系统当前给大模型下达的具体指令或问题。
好 Prompt vs 坏 Prompt:
| 类型 | 示例 | 效果 |
|---|---|---|
| 坏 Prompt | “帮我写代码” | 太模糊,模型不知道要什么语言、什么模式 |
| 好 Prompt | “用 Java 写一个单例模式,要求懒加载且线程安全,给出代码和注释” | 清晰、具体、可执行 |
Prompt 的两个分类:
| 类型 | 谁配置 | 作用 |
|---|---|---|
| User Prompt | 用户 | 输入具体任务 |
| System Prompt | 后台开发者 | 设定人设、行为规则(对用户不可见) |
System Prompt 示例:
“你是一位耐心的数学老师。当学生问你数学问题时,不要直接给出答案,而要一步一步引导学生思考,帮助他们理解解题思路。”
User Prompt 示例:
“3 + 5 = ?”
大模型在 System Prompt 作用下的回答:
“我们可以这样想,你手里有 3 个苹果,然后又拿了 5 个,现在一共有多少个呢?你可以数一数看。”
6. Tool —— 让大模型“伸出手”触碰外部世界
为什么需要 Tool:
大模型无法感知外界(如:天气、实时数据、发送邮件等)。
本质:
Tool 就是一个函数。
工作流程:
7. MCP (Model Context Protocol) —— 模型上下文协议
为什么需要 MCP:
每个大模型调用工具的格式都不同。没有 MCP,开发者需要为每个模型写一套适配代码。
MCP 的本质:
大模型与外部工具之间的 “中间层协议”。
它跑在调用大模型的那个应用程序里,而不是大模型内部。
比喻:
| 没有 MCP | 有 MCP |
|---|---|
| 每个电器都要自己配一个专用插座 | 统一的 USB 接口,谁插上都行 |
价值:
统一接入规范,一次开发,多个模型复用。
8. Agent —— 能自主规划和行动的智能体
Agent 的组成:
Agent = 大模型 + 能自主调用 Tool 的能力 + 能拆解任务的能力
示例:
用户下达复杂指令:
“帮我查一下张三这个月的考勤,如果缺勤超过 3 天就发邮件提醒他。”
Agent 自主拆解任务:
-
调用
search_employee("张三")→ 拿到工号 -
调用
get_attendance(工号, "本月")→ 拿到考勤数据 -
判断缺勤天数是否 > 3
-
如果是,调用
send_email(张三邮箱, "提醒文案")
与传统程序区别:
Agent 不是写死流程,而是动态决定调用哪些工具、按什么顺序调用。
9. Agent Skill —— Agent 的能力说明书
为什么需要 Skill:
每次出门都要重新输入:“请调用定位、天气预报,判断是否需要带雨伞、帽子、口罩,按表格输出……” → 太麻烦。
Skill 的本质:
给 Agent 看的「说明文档」,定义 Agent 可以复用哪些能力、如何使用。
Skill 的作用:
把多个工具调用 + 输出格式要求打包成一个可复用的技能。
效果:
用户只需说“使用出门准备 Skill”,Agent 自动:
调用定位 + 天气预报
按规则判断是否需要带雨伞、帽子、口罩
按表格格式输出
不需要每次都输入一堆提示词。
一张图总结
text
┌─────────────────────────────────────────────────────────────┐ │ 大模型应用技术栈 │ ├─────────────────────────────────────────────────────────────┤ │ │ │ 用户 ──→ Prompt ──→ LLM ──→ 输出 │ │ │ │ │ ┌────┴────┐ │ │ ↓ ↓ │ │ Context Tool │ │ (临时记忆) (触碰外界) │ │ │ │ │ │ ↓ ↓ │ │ Context Window MCP │ │ (窗口大小) (工具统一协议) │ │ │ │ │ ↓ │ │ Agent │ │ (大模型 + 工具 + 规划能力) │ │ │ │ │ ↓ │ │ Agent Skill │ │ (可复用的能力说明书) │ │ │ └─────────────────────────────────────────────────────────────┘
核心术语速记表
| 术语 | 一句话定义 |
|---|---|
| LLM | 根据输入文字,输出文字 |
| Token | 大模型处理数据的最基本单元 |
| Context | 大模型每次处理任务时接收到的信息总和 |
| Context Window | Context 最多能存储的 Token 量 |
| Prompt | 当前给大模型的具体指令或问题 |
| Tool | 大模型用来感知和影响外部环境的函数 |
| MCP | 统一了工具接入格式的标准协议 |
| Agent | 能自主规划和调用工具的程序 |
| Agent Skill | 给 Agent 看的「可复用能力说明书」 |
| RAG | 先检索知识库,再生成回答 |
更多推荐



所有评论(0)