AI 软件 · 大模型统一接入
TokenHub 统一接入平台
一个入口，调度所有大模型。TokenHub 把内网本地算力（一体机、自有 GPU）和公网大厂的模型 Token 统一接进来，业务按策略自动走本地或走公网；再加上 RAG 知识库、帐号与权限、用量与成本管理，企业用 AI 从此有序、可控、可算账。
核心能力
本地 + 公网统一接入
内网一体机、自有 GPU 服务器上的模型，和公网大厂的模型 API，在 TokenHub 里统一注册、统一调用，支持主流国内外模型厂商。
智能路由与兜底
按数据敏感度、成本、延迟和模型能力设置路由规则：涉密数据只走本地，本地算力忙或不支持的任务自动切到公网，公网故障再回退。
RAG 知识库
上传制度、手册、合同、工单等文档，自动切分、向量化并建立索引；回答带出处，可按部门隔离知识范围。支持常见办公文档格式。
帐号与权限管理
部门、用户、应用三级帐号体系，按角色分配可用模型、知识库与功能；支持对接企业已有的 LDAP / 企业微信 / 飞书登录。
用量与成本管理
给每个部门、应用、Key 设置 Token 配额与预算；本地算力按资源、公网 Token 按厂商计价，实时看到花了多少、省了多少。
审计与合规
每一次调用的发起者、模型、输入输出摘要都有日志；敏感词与数据外发策略可与 AI 防火墙联动，满足内部审计要求。
在整套方案中的位置
TokenHub 位于业务应用和各类模型之间：向上只暴露一个统一接口，向下同时接管内网本地算力与公网大厂模型，并把知识库、帐号、配额与审计集中在一处。
请求走本地还是走公网，由策略决定
路由规则由管理员在后台配置，业务代码不用改。
数据敏感 → 只走本地
合同、客户资料、研发文档等标记为敏感的请求，固定路由到内网一体机上的模型，数据不出企业。
本地忙或不擅长 → 切到公网
本地 GPU 排队超过阈值，或任务需要更大参数、多模态能力时，自动改调公网大厂模型，业务无感知。
成本与质量 → 按策略平衡
为不同应用设置「优先省钱」「优先效果」「优先速度」策略，并对公网厂商做多家备份，一家限流自动换另一家。
功能模块
| 模块 | 包含功能 |
|---|---|
| 模型网关 | OpenAI 兼容接口、本地与公网模型统一注册、密钥托管、限流与重试、流式输出 |
| 路由引擎 | 按敏感度 / 成本 / 延迟 / 能力路由，故障回退，多厂商备份，灰度切换 |
| RAG 知识库 | 文档解析与切分、向量索引、权限隔离、引用出处、知识库问答与 API |
| 帐号中心 | 部门 / 用户 / 应用三级帐号，角色权限，API Key 管理，单点登录 |
| 用量与账单 | Token 配额与预算、按部门 / 应用 / 模型统计、成本对比、导出报表 |
| 审计与监控 | 调用日志、敏感操作审计、模型可用性与延迟监控、告警通知 |
三种部署方式
随一体机预装
算力一体机出厂预装 AI 推理软件与 TokenHub，到货接上公网厂商密钥即可同时用本地与公网模型。
装在自有服务器
已有 GPU 或普通 x86 服务器的企业可单独安装 TokenHub，只做公网 Token 管理也可以。Linux 服务器、Docker 部署；只接公网模型时无需 GPU。
托管在和数据机房
部署在和数据北京、广州、东莞、贵阳机房，与一体机、推理软件统一运维，专线或 VPN 接回企业内网。
规格参数
| 项目 | 说明 |
|---|---|
| 本地模型来源 | AI 推理软件 / vLLM / Ollama 等 OpenAI 兼容服务 |
| 公网模型厂商 | 主流国内外大模型厂商 API，按需增加 |
| 调用接口 | OpenAI 兼容 REST API、SDK |
| 知识库 | 支持常见办公文档格式，容量随部署资源扩展 |
| 帐号与登录 | 本地帐号；LDAP / 企业微信 / 飞书 SSO |
| 部署形态 | 单机 / 高可用集群，Docker 或裸机安装 |
| 授权方式 | 随一体机预装，或按节点 / 按年订阅；具体以报价为准 |
适用场景
这些应用都可以通过 TokenHub 调用模型并复用同一份知识库。
常见问题
已经买了一体机，为什么还需要 TokenHub？
一体机解决「有本地算力」，TokenHub 解决「怎么管着用」：本地跑不动或不擅长的任务可以切到公网，所有调用都有帐号、配额、日志，各部门用了多少一目了然。
公网厂商的 API Key 放在哪里？业务系统能看到吗？
厂商密钥只保存在 TokenHub 内，业务系统拿到的是 TokenHub 签发的内部 Key，可随时吊销、限额，换厂商也不需要改业务代码。
RAG 知识库和 AI客宝、知识库问答应用是什么关系？
TokenHub 的知识库是底层能力，AI客宝、知识库问答等应用可以直接复用同一份知识，不用重复上传维护。
没有 GPU，只想统一管理公网大模型可以吗？
可以。TokenHub 可以只接公网厂商，先把帐号、配额、成本管起来，以后再加本地算力。
怎么收费？
随一体机预装时包含在整机内；单独部署按节点或按年订阅，含升级与技术支持，具体以报价为准。