在 Kubernetes 本地复现 RAG 链路:把四个依赖拆开

RAG 链路搬进本地 Kubernetes 时,不必先追求完整平台。先让文档入库、向量检索、上下文拼装和模型调用分别可检查,问题会清楚很多。

最小环境包含什么

依赖版本写进锁文件或镜像标签;配置使用非敏感测试值,密钥从环境注入。测试数据选可公开的小样本,并保存切分规则与预期文档标识。向量库、模型服务和应用各自提供健康检查,不能用“Pod Running”代替业务可用。

一次验证请求应输出检索到的文档标识、拼装后的上下文摘要、模型版本和最终状态。模型回复不作为检索正确性的唯一证据,召回结果要单独断言。

从空目录复现

验收时在干净环境依次执行:创建命名空间、加载配置、启动依赖、导入样本、发送固定查询、清理资源。命令失败要指出缺少哪个依赖或配置,而不是要求读者猜本机状态。

断开向量库、让模型超时并重复导入同一文档,再检查降级、超时和幂等行为。脚手架的价值,是让另一位维护者能重复同一个判断。

Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐