本文是一篇大模型的入门文章, 通过一个案例来理解大模型是如何使用的。

前排提示,文末有大模型AGI-CSDN独家资料包哦!

一、从一句话敲开大模型的大门

你向大模型提问 “你是谁?”,然后大模型理解了你说的话,并给出对应的回答。

接下来,使用 API 模拟这个场景。

二、大模型 API 实现问答

选用月之暗面的 API 来实现问答。

如图所示,通过一个 API ,完成了智能回复。

如果将这个 API 套一个壳(图形界面),就是我们常见的大模型助手。

于是很多 App、Agent、智能助手,都可以通过这样一个形式的 API 进行套壳落地。

通过上面的介绍,至少对于大模型的使用有了一定的体感。

和大模型的交付形式,抽象成程序,就一个参数,不同的参数,输出的结果是不同的。

三、“不同的输入给出不同的输出”

列举有哪些大模型,但是输出的形式不同。一个表格,一个markdwon,如下所示:

大模型最终的展现形式,显然和我们的输入表达是紧密相关的。输入表达,在大模型中叫做 prompt。

月之暗面这么定义 Prompt:

对模型的输入也被称为“Prompt”。通常我们建议您提供明确的指令以及给出一些范例,来让模型能够完成既定的任务,设计 Prompt 本质上就是学会如何“训练”模型。moonshot-v1模型可以用于各种任务,包括内容或代码生成、摘要、对话、创意写作等。

市面上诞生了很多 Prompt 工程师。Prompt 对大模型十分重要。很多场景的优化,常常是通过 Prompt 的优化来提升效果的。

四、Prompt 优化策略

简单提供入门的两个优化策略。

优化策略

给定身份

制定身份法

  • 你是一个 Linux 终端

  • 你是一个翻译家

  • 你是一个文档编辑专家

  • ....

示列

任务是:将 Map<Key,Value> 中的 Key提前出来 ,放入 []。

例如:{"a":"1"} 输出的是 [a]

.....


五、代码案例

搭建一个简单的代码案例

第一步:到月之暗面开发平台申请一个 key

https://platform.moonshot.cn/console/api-keys

有了这个 key ,就可以调用 API 。(学习阶段,申请一个免费的)

第二步:编写代码

如果熟悉 python ,那么将 key 替换成自己的,一个大模型语义能力通过几行就完成了。(月之暗面提官方提供的代码示例)



Python

`from openai import OpenAI       client = OpenAI(       api_key = "$MOONSHOT_API_KEY",       base_url = "https://api.moonshot.cn/v1",   )       completion = client.chat.completions.create(       model = "moonshot-v1-8k",       messages = [           {"role": "system", "content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},           {"role": "user", "content": "你好,我叫李雷,1+1等于多少?"}       ],       temperature = 0.3,   )       print(completion.choices[0].message.content)   `

如果使用 Java 代码,则封装一个 httpclient 就可以,或者使用 curl 命令也能实现访问



curl

`curl https://api.moonshot.cn/v1/chat/completions \       -H "Content-Type: application/json" \       -H "Authorization: Bearer $MOONSHOT_API_KEY" \       -d '{           "model": "moonshot-v1-8k",           "messages": [               {"role": "system", "content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},               {"role": "user", "content": "你好,我叫李雷,1+1等于多少?"}           ],           "temperature": 0.3      }'   `

代码实例就到此结束,感兴趣的自己可以进一步封装。

六、最后小结

本从一句话出发,然后引到大模型,算是一个简单的入门。并以月之暗面为例子进行说明。市面上有很多的大模型,都提供了open API,使用方式都相似。

后续会继续输出更多关于大模型相关的文章,本文到此结束,感谢阅读。

读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐