登录社区云,与社区用户共同成长
邀请您加入社区
API 成本失控常因预算无护栏、调用无限流、异常无告警。本文给出预算上限、按模型限流、异常账单实时告警三道防线,并说明如何通过 API 网关集中管控,守住大模型调用账单。
模型参与查询计划评分时,要先定义它失效后的行为。遇到未覆盖的 SQL、数据分布变化或推理超时,优化器应能忽略模型结果,继续走已有的代价估算路径。本文讨论这条降级链路的边界和验证方式。模型调用不该成为优化器的单点依赖。这里的目标不是承诺固定切换耗时,而是让模型超时、输出不合法或熔断时,查询仍能回到已验证的 CBO 路径;超时阈值应由本机负载和查询预算决定。
把学习型基数估算或连接顺序搜索放进优化器,最先要回答的不是“模型能否找到更优计划”,而是它会不会挤占解析、优化和执行资源。模型调用一旦进入热路径,排队与缓存未命中都可能让优化阶段本身成为延迟来源。本文讨论一个可验证的边界:AI 模块只能使用预留预算;预算不足时回退到已有 CBO。是否启用、阈值取值和预期收益都应由当前版本、SQL 集和压测结果决定。
摘要: Kubernetes集群中Pod卡在Pending状态多由资源不足引发,本文提供实战排查指南: 快速定位:通过kubectl describe pod查看Events,确认是否因CPU/内存不足(如Insufficient cpu);结合kubectl describe nodes检查节点资源分配情况,注意调度器仅关注Pod的requests而非实时负载。 根因分析:常见问题包括Pod的r
文章摘要 HxApisix是同花顺基于Apache APISIX开发的云原生API网关,专为应对微服务架构和AI Agent接入的挑战而设计。其核心架构采用OpenResty+Etcd+Kubernetes的技术栈,实现了高性能和热更新能力。网关最大的创新是MCP代理插件,能将REST API转换为AI Agent可调用的MCP协议接口,支持三种工作模式和双层认证架构。同时,HxApisix构建了
MCP 升级的重点不是字段变化,而是从有状态会话转向更适合扩容、鉴权和路由的 Agent 基础设施
✅ 在自建 K3s 集群上部署✅ 使用最小权限的 ServiceAccount 保障安全✅ 通过 Ingress + TLS 对外暴露服务✅ 在 Cherry Studio 中成功对接并使用关键收获MCP 协议(尤其是 Streamable HTTP 模式)的握手流程比想象中复杂,但客户端(如 Cherry Studio)会帮我们处理好这些细节。镜像拉取是部署中最耗时的环节(ghcr.io在国内访
# **TDSQL-C:云原生架构与 AI 能力解析**# 一、产品定位与核心亮点TDSQL-C 是腾讯云自研、面向 AI 时代的双引擎云原生数据库,计算节点采用 PostgreSQL 与 MySQL 双引擎内核,几乎覆盖全部业务场景,是腾讯云数据库自研产品家族的核心。通过 MCP、REST 等开放协议,可统一接入腾讯云 CloudBase 的 BaaS 平台,以及 Cursor、Fast
2026年云原生技术迎来AI Native范式跃迁,Kubernetes通过DRA实现GPU细粒度调度(显存/算力切片),使利用率提升3.5倍。KServe的LLMInferenceService支持大模型分布式推理,结合Token感知弹性伸缩优化成本。Agent协议栈形成四层标准架构:MCP实现工具调用标准化,A2A规范多Agent协作,AG-UI统一人机交互。AI Native基础设施核心特征
文章摘要: 本文系统解析了AI开发中的三层架构:Function Calling、MCP和Agent Skill。第一层Function Calling是基础调用协议,解决模型如何触发外部函数的问题;第二层MCP实现工具标准化封装,解决工具自动发现和接入问题;第三层Agent Skill负责流程封装,解决复杂任务的执行编排问题。三层呈现递进关系:Skill依赖MCP提供的工具,MCP依赖Funct
零拷贝的本质不是"不拷贝",而是让数据流动的路径最短。GPU 算出来的 bit,最短路径就是 GPU → PCIe → NIC → 光纤,中间不要让 CPU 碰一下。PCIe Gen5 x16 带宽:64GB/s,是 GPU HBM 带宽的 1/30一次 GPU→CPU memcpy 开销:~100ns 启动 + 每字节 ~1ns(对于 8KB 数据约 8μs)RDMA 延迟 vs TCP 延迟:
以登录者个人账号身份调用 API 的临时密钥,前缀pat_,是前面写 curl、Playground 调试用的令牌扣子。独立服务身份凭证,前缀sat_企业版专属,用于后端常驻服务调用 AI 智能体,替代 PAT 做生产环境鉴权。基于 OAuth2.0 标准流程生成的短时令牌,代表终端普通用户身份,实现多用户会话隔离,是面向 C 端产品的标准方案扣子。
Redis 缓存击穿(Cache Breakdown)是指在高并发场景下,某个热点 Key(Hot Key)突然过期,此时大量请求同时访问该 Key,由于缓存中不存在该数据,所有请求直接穿透到数据库,导致数据库瞬间压力过大,甚至宕机。这与“缓存穿透”(查询不存在的数据)和“缓存雪崩”(大量 Key 同时过期或 Redis 宕机)有所不同,击穿的核心特征是:单个热点 Key 过期 + 高并发。并发量
摘要: 本案揭示了一起因技术漏洞引发的数字伦理纠纷。被告利用非法获取的医疗数据和社交信息构建3D数字人,但测试环节存在严重缺陷:未验证数据权限、忽视情感算法偏差、缺少伦理评估。关键漏洞包括亲属关系验证缺失、情感训练集失衡及物联网通信隔离失效。案件警示测试人员需从功能正确性转向伦理安全评估,建议引入遗嘱验证模块、伦理影响评分等防护机制,推动行业建立兼顾技术性能与社会价值的测试新范式。(149字)
OOMKilled:内存不够用,核心是调高内存限制 / 换小模型;:容器启动就崩,核心是看日志找程序错误;:镜像拉取不到,核心是检查镜像地址 / 网络 / 认证。这三个错误里,你的 Ollama 最容易触发连锁反应,优先检查内存限制和模型大小即可解决。
阿里云函数计算 FC 为这一难题提供了全新的解题思路。其底层基于轻量级安全沙箱,天然具备进程级隔离、资源极致伸缩、按需付费等特性。这种架构与 Agent 对代码执行环境的需求高度契合,使得构建高密度、低成本、安全可靠的 Agent 运行时成为可能。
本文探讨了MCP通信协议从本地Stdio到云原生Streamable HTTP的演进历程,分析了各阶段技术特点与性能表现。重点介绍了Streamable HTTP协议在云原生环境下的创新优势,包括双向通信、动态协议协商等特性,为AI服务提供高效、可靠的传输解决方案。
本文介绍了如何在星图GPU平台上自动化部署Hunyuan-MT 7B全能翻译镜像,实现低延迟、高精度的多语种实时翻译服务。该镜像适用于跨境电商客服同传、视频会议字幕生成等典型云上AI应用场景,兼顾推理效率与资源成本,完美契合MCP认证强调的云原生实践能力。
本文介绍了如何在星图GPU平台上自动化部署🔄 coze-loop - AI 代码循环优化器镜像,实现Kubernetes Operator的Reconcile循环智能优化。该镜像典型应用于云原生环境下AI Agent驱动的Operator性能调优,如自动识别缓存瓶颈、精细化治理事件处理与提升Reconcile响应效率。
摘要:Google开源的LeaderWorkerSet(LWS)解决了Kubernetes在LLM分布式推理场景中的痛点。传统Deployment和StatefulSet难以满足模型推理对Pod协同和弹性的需求,而LWS通过组级生命周期管理(1个Leader+多个Worker的副本组架构)、LeaderReady启动策略及独占拓扑功能,完美适配vLLM等框架。LWS支持原子化扩缩容、版本一致性保障
本文详细记录了基于Rocky Linux 9.6搭建Kubernetes集群的全过程。首先通过VMware配置三台虚拟机(k8s-node1/2/3),设置静态IP并关闭防火墙。然后使用Ansible进行自动化部署:包括SSH互信配置、基础环境准备(禁用SELinux和Swap、内核参数调整)、containerd容器运行时安装、Kubernetes组件部署。重点介绍了Ansible Playbo
是一个 Kubernetes 原生的 AI Agent 框架,它将 Agent 定义为 Kubernetes CRD(Custom Resource Definition),让用户可以像管理 Deployment 一样管理 Agent。这不是简单地"把 Agent 跑在 K8s 上",而是深度融入 Kubernetes 的资源模型,让 Agent 天然具备云原生基础设施的所有能力。本文档阐述 Ka
break")模型是 intelligence,harness 是 infrastructure- 两者分离是工程化的必然安全不是外围模块,是架构本体- 权限、审计、hooks 必须内建可观测性决定可维护性- 决策日志、token 追踪、成本分析缺一不可确定性 + 概率性 = 可靠系统- LLM 做 augmentation,规则做兜底生态决定长期竞争力- 技能系统、插件兼容、工具丰富度当所有人都
AEnvironment(AEnv)深度研究报告摘要 蚂蚁集团开源的AEnvironment(AEnv)是一套面向智能体强化学习(Agentic RL)的统一环境平台,采用"万物皆环境"(Everything as Environment)的设计理念。该系统将各类能力(工具函数、奖励函数、外部系统等)统一抽象为环境接口,支持环境即代码(Environment-as-Code)的完整DevOps生命