如何使用Ollama在本地运行Qwen3并支持MCP和工具使用?看完这篇你就懂了!!
Qwen3是阿里巴巴Qwen团队最新发布的开源大语言模型,提供具有竞争力的性能,高度模块化和工具使用能力。在本指南中,我将向您展示如何通过Ollama在本地运行Qwen3,并启用MCP(模型上下文协议)工具功能,如代码解释器、网络获取和时间查询。
前言
Qwen3是阿里巴巴Qwen团队最新发布的开源大语言模型,提供具有竞争力的性能,高度模块化和工具使用能力。
在本指南中,我将向您展示如何通过Ollama在本地运行Qwen3,并启用MCP(模型上下文协议)工具功能,如代码解释器
、网络获取
和时间查询
。
到最后,您可以构建由Qwen3驱动的智能助手,完全在您的机器上运行——无需云API密钥!
为什么选择Qwen3 + Ollama + MCP?
为了实现这些高级功能,阿里巴巴引入了模型上下文协议(MCP)。
MCP允许模型通过调度命令行服务与外部工具交互,使大语言模型能够以结构化和安全的方式访问时间、从网站获取数据或调用其他本地工具。
在Qwen-Agent生态系统中,像mcp-server-time
和mcp-server-fetch
这样的MCP工具作为终端点,可以在需要时被模型本身触发。
这些工具通过一个字典配置,告诉代理为每个功能运行哪些命令。
- Qwen3:为开源部署优化的先进大语言模型。
- Ollama:通过一个命令简化本地LLM部署(如Qwen3)。
- MCP:允许外部工具通过结构化消息进行通信(如网页浏览或时间查询)。
- 工具使用:扩展Qwen3的能力超越静态文本——让它执行代码、调用API等!
*在本地设置Ollama和Qwen3*
*步骤1:安装Ollama并运行Qwen3*
在您的本地终端(Linux/macOS)上运行这些命令:
# 安装Ollama
curl -fsSL https://ollama.com/install.sh | sh
# 启动Ollama服务器
ollama serve
然后拉取Qwen3模型,Ollama 默认会拉取 Qwen3 系列中的基础版本:
ollama pull qwen3
这将获取Qwen3权重并准备通过Ollama API端点http://localhost:11434/v1
进行本地使用。
*步骤2:安装Qwen-Agent*
接下来,克隆官方Qwen-Agent仓库并安装它,包括GUI、检索增强生成(RAG)、代码解释和MCP支持所需的额外功能。运行以下命令:
# 克隆仓库
git clone https://github.com/QwenLM/Qwen-Agent.git
# 安装所有额外功能
pip install -e ./Qwen-Agent"[gui, rag, code_interpreter, mcp]"
-e
标志确保包以可编辑模式安装,如果需要,可以更轻松地试验其内部功能。安装后,您可以编写Python脚本将助手连接到Ollama并启用工具使用。
*步骤3:准备您的Python脚本*
以下是运行具有MCP + Ollama的工具使用助手的完整代码:
from qwen_agent.agents import Assistant
# 步骤1:配置本地Qwen3模型(通过Ollama提供服务)
llm_cfg = {
'model': 'qwen3',
'model_server': 'http://localhost:11434/v1', # Ollama API
'api_key': 'EMPTY',
}
# 步骤2:定义您的工具(MCP + 代码解释器)
tools = [
{'mcpServers': {
'time': {
'command': 'uvx',
'args': ['mcp-server-time', '--local-timezone=Asia/Shanghai']
},
'fetch': {
'command': 'uvx',
'args': ['mcp-server-fetch']
}
}},
'code_interpreter',
]
# 步骤3:初始化Qwen-Agent助手
bot = Assistant(llm=llm_cfg, function_list=tools)
# 步骤4:发送带有URL的用户消息
messages = [{'role': 'user', 'content': 'https://qwenlm.github.io/blog/ 介绍Qwen的最新发展'}]
# 步骤5:运行助手并打印结果
for responses in bot.run(messages=messages):
pass
print(responses)
这个脚本使用Ollama后端初始化Qwen3模型,并注册两个MCP工具(time
和fetch
)以及内置的code_interpreter
。根据需要评估工具或代码后,助手处理用户消息并返回响应。
结语
将Qwen3与Qwen-Agent、MCP和Ollama结合使用,可以得到一个不依赖任何外部云服务的本地AI助手。
您可以运行多轮对话,启用实时信息检索,并执行Python代码——全部在本地基础设施内完成。
这使其成为开发人员、研究人员和产品团队的理想设置,特别是那些关注隐私、灵活性和可扩展性的人。
随着Qwen3的不断发展,我们可以期待其对复杂任务的更强大支持和与自定义工具的无缝集成,为真正自主的本地AI代理铺平道路。
最后的最后
感谢你们的阅读和喜欢,作为一位在一线互联网行业奋斗多年的老兵,我深知在这个瞬息万变的技术领域中,持续学习和进步的重要性。
为了帮助更多热爱技术、渴望成长的朋友,我特别整理了一份涵盖大模型领域的宝贵资料集。
这些资料不仅是我多年积累的心血结晶,也是我在行业一线实战经验的总结。
这些学习资料不仅深入浅出,而且非常实用,让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习,相信它们一定能为你提供实质性的帮助。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】

大模型知识脑图
为了成为更好的 AI大模型 开发者,这里为大家提供了总的路线图。它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
经典书籍阅读
阅读AI大模型经典书籍可以帮助读者提高技术水平,开拓视野,掌握核心技术,提高解决问题的能力,同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说,阅读经典书籍是非常有必要的。
实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
面试资料
我们学习AI大模型必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,并且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下
640套AI大模型报告合集
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】

更多推荐
所有评论(0)