在英伟达官网针对Jetson提供很多大模型适配方案,参考相关的脚本可以轻轻松松在ORIN 平台搭建模型测试平台

想学习的点击网站链接有参考适配步骤

https://www.jetson-ai-lab.com/ 

https://www.jetson-ai-lab.com/models.html

这个里面有关联hugging face 网站和openai 链接(国内无法访问,需要科学上网办法),建议先把模型文件先下载本地,放到对应的需要关联的目录下,后续文章写下怎么去适配经验。

https://www.jetson-ai-lab.com/tutorial-intro.html

  内置手把手教程搭建各种大模型的步骤

Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐