从 LLM、RAG、Agent 到 MCP,补齐的不是四个热点,而是理解、依据、行动与连接。

灵感来源:Divy Yadav 对 AI 技术栈的视觉梳理|虎小象重新研究与中文写作

过去两年,AI 给人的感觉像是突然跨过了一道门。

最早,它只是一个对话框:你问,它答。后来,它开始查资料、记住公司的知识、执行代码、调用日历,甚至能把一串工作拆开,自己决定下一步做什么。

很多人把这种变化简单归因于“模型又变聪明了”。但更准确的解释是:模型之外,系统架构开始一层层补齐。

来源:Towards AI · Divy Yadav,2026-05-07
图 01|原文提出了一个重要视角:现代 AI 的跃迁,不只来自更大的模型,也来自模型外部架构的变化。

LLM、RAG、Agent、MCP 经常被放在同一张“技术趋势图”里,于是很容易被误解成四代互相替代的新产品。其实它们更像四层能力:前一层解决不了的问题,逼出了后一层。

01 · LANGUAGE

会说话,是第一层

LLM 最擅长的,是理解语言、归纳上下文、生成文字和代码。它让计算机第一次拥有了足够自然的语言接口。

但一个只靠模型参数回答的系统,仍然有三个现实边界:它不知道你公司的私有资料;训练之后发生的新信息可能不在它的知识里;它也不能因为“知道怎么做”,就自动完成真实操作。

图 02|语言能力解决“怎么表达”,却不会自动打开私有资料、实时信息与真实行动这三扇门。

所以,当你让一个普通聊天模型“根据昨天的销售表,给客户发一封跟进邮件”,它可能写得很好,却未必看过那张表,也没有真正发出邮件。

会说,是智能的入口;
知道依据、完成行动,才是系统能力。

02 · MEMORY

RAG 先把依据找回来

RAG 的中文常译为“检索增强生成”。它不是给模型重新训练一遍,也不是往模型里永久塞进一座知识库,而是在回答之前,先去外部资料里找出与问题最相关的内容,再把这些内容连同问题一起交给模型。

2020 年的 RAG 原始论文把它描述为参数化记忆与非参数化记忆的结合:模型保留语言生成能力,外部索引负责提供可以更新、可以检查的资料依据。

来源:Lewis 等,《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》
图 03|RAG 原始论文关心的核心问题之一,是模型知识难以更新、难以追溯;检索让外部资料重新进入回答现场。

它的基本动作很朴素:提问 → 检索 → 补充上下文 → 生成。

图 04|RAG 的价值不在“记得更多”,而在回答前先找到相关资料,并让输出有可追溯的落脚点。

当然,RAG 也不是事实保险。找错文档、切分失真、排序不准,模型仍会带着错误依据说得很像真的。因此,RAG 新增的不只是能力,也新增了检索质量、引用准确性和权限控制等工程问题。

03 · ACTION

Agent 把回答变成循环

如果任务只需要一次回答,LLM 或 RAG 往往已经够用。但真实工作通常不是一步:先查资料,再判断,再调用工具,观察结果,不对就调整计划。

Agent 的关键不是“把提示词写得更长”,而是让模型进入一个可以反复运行的工作循环:感知当前状态,决定下一步,调用工具,读取结果,再继续。

来源:OpenAI Agents SDK 官方文档
图 05|OpenAI Agents SDK 把 Agent、工具、交接与护栏列为核心原语。重点不只是生成,而是让模型在规则内完成多步任务。

于是,“帮我研究三家竞品并生成报告”不再只是一次长回答。系统可以先搜索,再筛选来源,读取网页,整理差异,检查遗漏,最后输出文件。

但行动越多,风险也越大。Agent 需要权限边界、审批节点、失败重试、运行记录和结果验证。能自动执行,不等于应该无人看管。

04 · CONNECTION

MCP 解决重复接线

当每个 AI 应用都要连接文件、数据库、搜索、日历和代码工具时,真正麻烦的不是“有没有工具”,而是每个客户端都要重新写一套连接方式。

MCP 不是更高级的 Agent,也不是一个替代模型。它是一套开放标准,用统一方式把 AI 应用连接到外部数据、工具和工作流。官方文档把它类比为 AI 应用的 USB-C 接口。

来源:Model Context Protocol 官方文档,2026-07-28 版本图 06|MCP 解决的是标准连接问题:同一个外部能力,可以被不同 AI 客户端用一致方式发现和调用。

这件事的价值不在“又多了一个缩写”,而在复用:工具提供者不必为每个 AI 产品重复适配,AI 应用也不必为每个工具重新理解一套私有接口。

同时,标准连接也把安全问题放到台前:谁能访问什么数据、哪些操作必须授权、工具返回的内容是否可信,都不能交给一句提示词解决。

05 · SYSTEM

四层合起来,才像一个系统

现在再把四个概念放回一条工作流:

  • LLM 负责理解意图、推理与生成。
  • RAG 在需要时找回外部知识与证据。
  • Agent 决定步骤、调用工具并根据结果继续。
  • MCP 让工具与数据用标准方式接入和复用。

图 07|它们不是四个互相替代的产品,而是模型、记忆、行动与连接四层能力;项目只需要补上当前缺失的一层。

这也解释了为什么有些 AI 产品看起来“模型相同,体验却完全不同”。差距可能不在模型,而在它是否拿到了正确资料,是否能稳定调用工具,是否有清楚的流程和验证机制。

真正的 AI 产品竞争,正在从“谁的模型会说”,
转向“谁能把模型组织成可靠的系统”。

06 · CHOICE

不要堆缩写,只补缺口

理解这条演化路线之后,最实用的问题不是“我该学哪个最热门”,而是:我的项目现在缺的是什么?

图 08|先判断能力缺口:一般生成用 LLM;需要私有依据加 RAG;需要多步执行加 Agent;需要跨工具复用,再考虑 MCP。

一个简单的判断顺序是:

    1. 只是写作、总结、翻译、通用问答?先用 LLM
    1. 必须依据公司文档、最新资料或可引用来源?加入 RAG
    1. 任务需要搜索、计算、调用工具并根据结果继续?加入 Agent
    1. 多个 AI 客户端要复用同一批工具和数据?再用 MCP 统一连接。

并不是层数越多越先进。每增加一层,都会增加延迟、成本、权限和故障点。优秀的系统不是把所有概念堆满,而是用最少的结构,可靠地完成真实任务。

AI 不是突然会做事的。

它只是终于不再只有一张会说话的嘴,而是逐渐拥有了资料、步骤、工具与连接世界的接口。

最后

对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?

答案只有一个:人工智能(尤其是大模型方向)

当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应聘者,月基础工资也能稳定在4万元左右

再看阿里、腾讯两大互联网大厂,非“人才计划”的AI相关岗位应聘者,月基础工资也约有3万元,远超其他行业同资历岗位的薪资水平,对于程序员、小白来说,无疑是绝佳的转型和提升赛道。

如果你还不知道从何开始,我自己整理一套全网最全最细的大模型零基础教程,我也是一路自学走过来的,很清楚小白前期学习的痛楚,你要是没有方向还没有好的资源,根本学不到东西!

下面是我整理的大模型学习资源,希望能帮到你。

👇👇扫码免费领取全部内容👇👇

在这里插入图片描述

最后

1、大模型学习路线

2、从0到进阶大模型学习视频教程

从入门到进阶这里都有,跟着老师学习事半功倍。

3、 入门必看大模型学习书籍&文档.pdf(书面上的技术书籍确实太多了,这些是我精选出来的,还有很多不在图里)

4、 AI大模型最新行业报告

2026最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

5、面试试题/经验

【大厂 AI 岗位面经分享(107 道)】

【AI 大模型面试真题(102 道)】

【LLMs 面试真题(97 道)】

6、大模型项目实战&配套源码

适用人群

四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型

  • 带你了解全球大模型

  • 使用国产大模型服务

  • 搭建 OpenAI 代理

  • 热身:基于阿里云 PAI 部署 Stable Diffusion

  • 在本地计算机运行大模型

  • 大模型的私有化部署

  • 基于 vLLM 部署大模型

  • 案例:如何优雅地在阿里云私有部署开源大模型

  • 部署一套开源 LLM 项目

  • 内容安全

  • 互联网信息服务算法备案

  • 👇👇扫码免费领取全部内容👇👇

    在这里插入图片描述

3、这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐