我们利用 LM Studio 这款软件来可视化部署 Llama3语言大模型软件,官网选择好对应的操作系统下载安装包,在下载好之后进行安装。在安装好之后我们就可以打开软件并使用了,我们在搜索框内来搜索并安装 llama 系列的模型,不过在进行搜索时会发现搜索功能失效了,并且报错“Error searching for models ‘Network error’”

在这里插入图片描述

虽然有很多解决办法,但对于大多数小伙伴来说也依然有诸多限制,最大的限制就是网络问题,因为国内无法正常从 Hugging Face 上拉取模型,好多小伙伴可能在这一步就被 block 住了。本教程主要使用魔改的方法,通过 hf 镜像站来做到即使在国内也能正常搜索并下载模型!!
操作步骤:
1.使用工具:VS Code ,官网地址:https://visualstudio.microsoft.com/zh-hans/,下载第一个版本的即可

在这里插入图片描述

2.下载完成后,打开安装包进行安装,安装过程默认即可,不再赘述。

在这里插入图片描述

3.安装完成后,打开软件

在这里插入图片描述

在这里插入图片描述

4.点击左侧搜索按钮,点击“Open Folder”添加’LM Studio’软件运行目录

在这里插入图片描述
在这里插入图片描述

5.弹出安全提示,点击"Yes"

在这里插入图片描述

6.再次点击左侧搜索按钮

在这里插入图片描述

7.然后在第一个输入框中输入 huggingface.co,这会将 LM Studio 程序中所有使用到 huggingface.co链接的地方都搜索出来

在这里插入图片描述

8.紧接着我们在第二个输入框中输入 hf 的镜像网站地址 hf-mirror.com,这表示我们将要把所有匹配到的内容都替换为镜像站点的网址

在这里插入图片描述

9.最后点击右侧的替换按钮进行替换

在这里插入图片描述

10.点击"Replace"确认替换

在这里插入图片描述
在这里插入图片描述

11.替换完成之后,我们重启 LM Studio 就可以在国内正常进行搜索和下载模型了。

在这里插入图片描述

Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐