【大模型应用开发-LangChain】(一)LangChain概述
众所周知 OpenAI 的 API 无法联网的,所以如果只使用自己的功能实现联网搜索并给出回答、总结 PDF 文档、基于某个 Youtube 视频进行问答等等的功能肯定是无法实现的。LangChain 是一个用于开发由语言模型驱动的应用程序的框架。拥有大量的文档加载器,比如 Email、Markdown、PDF、Youtube …Prompt管理,支持各种自定义模板。
·
一、背景
LangChain 是一个用于开发由语言模型驱动的应用程序的框架。他主要拥有 2 个能力:
- 可以将 LLM 模型(大规模语言模型)与外部数据源进行连接
- 允许与 LLM 模型进行交互
二、官方网站
文档地址
三、基础功能
- 支持多种模型接口,比如 OpenAI、Hugging Face、AzureOpenAI …
- Fake LLM,用于测试
- 缓存的支持,比如 in-mem(内存)、SQLite、Redis、SQL
- 用量记录
- 支持流模式(就是一个字一个字的返回,类似打字效果)
Prompt管理,支持各种自定义模板
拥有大量的文档加载器,比如 Email、Markdown、PDF、Youtube …
对索引的支持
- 文档分割器
- 向量化
- 对接向量存储与搜索,比如 Chroma、Pinecone、Qdrand
Chains
- LLMChain
- 各种工具Chain
- LangChainHub
更多推荐
所有评论(0)