联旌智能 EaaS 平台正式上线 Token 中心 模块。无论是采购的外部商用大模型,还是校内自建的本地模型,接入平台后即可实现统一的 Token 计费、额度分配和消费追踪。

核心能力

Token 管理覆盖从模型接入到逐笔消费的全链路:

模型接入与定价

  • 支持外部大模型(DeepSeek、Qwen 等云端 API)和本地大模型(基于 vLLM 等框架自建服务)两类接入
  • 每个模型独立设置输入/输出 Token 单价(点数/百万 Token),适配不同模型的成本结构

额度分配与限流

  • 按用户或课题组分配 Token 额度上限,用超即止
  • TPM(每分钟 Token 数)/ RPM(每分钟请求数)双重限流,保护后端模型服务不被单一用户打满

API Key 管理

  • 师生在用户端自行创建和管理 Key,无需管理员介入
  • 管理员端可查看所有 Key 的使用情况,但不能代操作,保障密钥安全
  • 每个 Key 独立展示已消耗 Token 和速率限制

消费追踪

  • 每次 API 调用的完整记录
  • 满足科研经费审计和课题组成本核算需求

管理端看什么

  • 用户用量 — 每位师生的已消耗 Token、额度上限、创建/更新时间
  • API KEY — 所有已创建 Key 的别名、归属用户、Token 消耗、速率限制
  • 消费明细 — 逐笔调用的请求 ID、模型、Token 数、费用、API Key、开始时间

用户端怎么用

师生登录平台进入 AI 模型 模块:

  1. 模型广场 — 查看可用模型及 Token 单价
  2. 我的额度 — 查看 Token 余额,额度不足时在线购买
  3. API Key 管理 — 自行创建 Key,通过平台统一 API 地址调用模型(OpenAI 兼容接口)

一个 API 地址、一个 Key,调用平台所有模型,不关心后端细节。

对于算力平台建设者,Token 管理意味着什么

  • 用量有数 — 谁调用了多少 Token,不再是一笔糊涂账
  • 成本可控 — 定价 + 额度 + 限流三层机制,防止资源滥用
  • 审计可查 — 逐笔消费明细,科研经费管理有据可依
  • 用户自助 — Key 的创建和额度购买都由用户自行完成,减少管理负担

典型场景

  • 高校网络信息中心 — 按院系分配 Token 额度,统一审计全校模型使用情况
  • 科研课题组 — 将自建本地模型接入平台,组内成员自助使用,PI 按 Token 消耗掌握资源使用
  • 交叉学科平台 — 外部模型 + 本地模型混用,Token 统一计量,分账清晰
  • 课题组自研模型校内服务 — 课题组自主研发的大模型直接接入 EaaS 平台,校内师生按 Token 消耗付费(从各自课题组/项目经费扣减)。课题组保留模型的所有权和运营权,通过平台的 Token 计费机制获得合规的校内结算通道,学校信息中心同时掌握全部使用数据和收入明细

联系我们

已部署 EaaS 的客户可直接升级免费使用。如需演示或了解接入方案:

📞 400-038-6608

🌐 官方网站

关于联旌智能

联旌智能科技(上海)有限公司

EaaS平台自主研发者——为高校、政府、科研机构与政企提供HPC高性能计算与AI智算一体化解决方案。

我们以EaaS平台为核心,整合容器编排、虚拟化等技术,实现异构算力的统一纳管与智能调度,帮助客户高效应对科学计算、大模型训练与推理、教学实训等复杂算力需求。

核心产品:EaaS高性能计算云平台|Mini EaaS

配套服务:HPC/AI集群部署|分布式存储部署|定制化解决方案

Logo

欢迎加入 MCP 技术社区!与志同道合者携手前行,一同解锁 MCP 技术的无限可能!

更多推荐