今天离五一放假还有5!!!!!!!

        言归正传言归正传,其实今天是打算学习抓包的,但是刷到了一个有关AI核心概念的视频,对于我这种哪哪都是小白的人来说,是十分值得停留脚步去学习学习的,那么接下来的文章我会根据我学到的知识以及个人见解来展开。如果各位在阅读中发现任何问题或建议,请随时指出,我们共同进步。学习路上难免会遇到挑战,但每一次尝试都是成长的机会。

一、LLM(Large Language Model)

        大语言模型简称为大模型,可以通俗的理解为它是读了互联网上海量文章、书籍等内容的一个知识量非常庞大的学霸。LLM的底层逻辑是预测,也就是说,我们给它输入一个问题,他会预测词来回答我们的问题,像是文字接龙游戏一样,首先它根据问题预测第一个字/词,然后输出,接着再次根据问题与它回答的第一个字/词进行预测得到第二个字/词,以此类推,直到它完整的回答完你的问题。这也就意味着大模型本质上是一种概率模型,不属于真正的“百科全书”。

二、Token

        上面提到LLM回答问题的模式,但实际上LLM它是无法直接识别文字与输出文字的,这个时候在你与LLM之间就需要一个转化者——Tokenizer。Tokenizer负责编码(将文字转化为数字)和解码(将数字转化为文字)两件事情。那么在Tokenizer转化过程中,它是无法将整段文字进行转换的,必须将其拆分为小的词元来进行转化,这就是Token,打个比喻来说,Token就相当于是单词的字母了。其实这里也就能明白为什么LLM是一个字/词一个字/词往出吐的,Tokenizer拆分文本为Token,接着编码为可以被LLM识别的数字,LLM预测下一个会产生的数字之后,Tokenizer又将其解码。Token就是LLM处理文本时的最小基本单位。LLM都是按照Token进行上下文长度限制以及计费的,处理的速度也取决于Token的数量。

三、Context(上下文)

        Context表示LLM每次处理任务时所接收到的信息总和。在对话中LLM可以记住我们之前的问题以及他的回答,这就依靠的是Context,它将用户问题与历史对话“打包”,每次回答你的新问题之前都看看这个“包”里面有什么可以用到的信息。不过Context里面不仅仅包含这些,它还包括正在输出的Token、工具列表等内容,“打包”历史对话只是它的其中一个功能,Context更像是一个临时记忆体,记忆之前对话中的所有东西。

        这时候就有一个问题Context能容纳多少Token呢?Context Window就对这个数量有了一定的规定。每个LLM对于Context Window的大小的规定都是不一样的,主流的一些LLM,比如Gemini 2.5 Pro,GTP-4.1系列,Kimi K2.6等就拥有差不多100万的Token,相当于75万字了(按照1 Token ≈ 0.75 个中文汉字来计算),DeepSeek系列,Llama 3.3等LLM相对来说Token量就比较少了,只有12.8万Token,相当于9.6万字。

四、RAG(Retrieval-Augmented Generation 检索增强生成)

        就算Context Window的大小再不断进步,但是我们也不能让LLM在回答问题时先把几百页的文件阅读完再回答问题,这时候就需要一个工具在我们发送给LLM的外部文件中检索与我们提出的问题较为相关的几段内容,然后根据检索到的相关内容+我们的问题来生成答案,这个工具就是——RAG。有了RAG之后就很大程度上解决了Context Window的大小限制问题,同时RAG也让LLM变得更加高效与精准,这么说的原因是RAG解决了LLM在内容较多的Context中记不住细节,回答粗糙等问题。

五、Prompt(提示词)

        Prompt是大模型接受的具体问题或指令。上述我们提到的对LLM发送的所有问题都属于Prompt,LLM对于我们问题回答的清晰程度取决于我们的Prompt是否准确,一个好的Prompt是要对我们想要做的事情描述的十分清晰的,比如说给LLM“提供必要的背景信息”+“告诉LLM要做什么,要处理哪些具体内容”+“给LLM一个规范要求”......现在的LLM发展十分迅速,即使我们将问题描述的很模糊,它也能预测我们想要的答案,不过好的Prompt确实能极大的节省我们与LLM沟通的时间与精力。

        Prompt又分为User Prompt(用户提示词)和System Prompt(系统提示词)。前者就是用户自己输入的提示词,后者则是开发者在后台配置的。比如说我们想要一个LLM对用户回答的风格是温柔的、偏带鼓励的,这时候我们就需要用System Prompt在后台来对LLM进行设置,这个设置对于用户来说是不可见的。此时用户再输入User Prompt,LLM就会按照预设的风格来回答问题。

六、Tool

        LLM虽然阅读了海量文章书籍极为聪明,但是它也有一个短板就是无法直接感知外部环境,它只能根据训练数据预测下一个词,所以当我们提问“今天西安的天气怎么样?”,LLM是没办法去天气预报网站拿到今天的天气情况,那么这个时候就需要Tool

        在这里需要提到在用户和大模型之间有一个平台,这个平台接收到用户的问题,然后传给LLM,但是LLM无法直接调用工具(Tool)它只能分析接下来需要干什么,因为它只能输出文本,这个时候就LLM分析出接下来需要调用Tool,紧接着LLM生成需要调用的Tool的指令给平台,然后平台将调用这个Tool(实际上,Tool更相当于是一个函数,因为它是通过函数来完成功能的),Tool调用函数之后得到的结果传给平台平台再次将Tool的结果传给LLM,LLM将结果整理成适合输出给用户的回答之后,通过平台最终传达给用户。

七、MCP(Model Context Protool 模型上下文协议)

        在上一部分介绍中我们提到LLM无法直接调用Tool,而是通过平台来调用的,这就需要将Tool接入平台才能被调用,由此就提出了MCP这个统一的工具接入标准。MCP就相当于是type C接口一样,如果没有type C接口,那么恐怕我们给电子设备充电的时候就要换很多数据线了,MCP也是同样道理,如果没有MCP,那每个AI平台都将有自己的接入标准,这样很不便于使用。

八、Agent(智能体)

        Agent就是一个可以自主完成复杂任务的AI程序,也就是说它可以根据我们提出的问题自主规划、自主调用工具。LLM是无法自主的去做事情,它只会输出在它的“知识库”中存在的内容,但是Agent却可以根据我们的问题自主规划任务清单,自主去调用工具得到需要的内容,持续工作直到完成任务,甚至还可以随时调整方案,灵活替代。现在市面上也有许多Agent产品,比如Claude Code,Codex等等,这些Agent产品的构建模式往往是不同的,最常见有React等。

九、Agent Skill

        可以简单介绍Agent Skill就是提前写给Agent的一份说明文档。打个比方来说,我们向AI询问去某地旅游时的“一日游清单”,这时候对我们没有任何了解的AI就会五花八门的回答,但是如果我们提前将我们对“一日游清单”要求写一份说明档:首先要说明当地当日天气,其次需说明宜穿什么衣服,最后说明热门景点的方位以及是否需要提前预订,这就相当于一个Agent Skill,以后只要我们问去某地旅游时的“一日游清单”,它就会按照提前规定好的,我们想要它呈现的内容输出回答。当然Agent Skill的功能远不止如此,为Agent配备不同的Skill,会得到更为强大AI助手。其实从这里也能看出来,AI正在朝着更加专业化的方向发展。

本篇文章先介绍这么多,待我下篇文章再继续奋斗!!!!!

Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐