技术参数
- GPU
- NVIDIA RTX PRO 6000（Blackwell 架构）
- 单卡显存
- 96GB GDDR7 ECC
- 低精度推理
- 支持 FP4 / FP8
- GPU 数量
- 单卡起，可多卡
- 整机配置
- CPU、内存、存储、网络按需求配置，详见报价单
- 预装软件
- AI 推理软件 + TokenHub
- 适合
- 大模型推理、LoRA 微调、多模型并行
完整参数与规格书可向顾问索取。
预装软件
- GPU 驱动与运行环境
- AI 推理软件：模型部署、推理服务、调度与监控
- TokenHub：本地与公网模型统一接入、RAG 知识库、帐号与用量管理
- 可选预装开源大模型（下单时指定）
部署方式
部署在企业现场
设备放在企业自有机房或办公环境，我们提供上门安装调试。
托管在和数据机房
设备托管在和数据机房（贵阳提供 15–40kW 高电机柜），享受稳定供电、带宽和 7×24 运维。
FAQ
常见问题
Pro 6000 和 Pro 6000D 怎么选？
两款 GPU 架构相同、预装软件一致，主要区别是显存与供货渠道：Pro 6000 单卡 96GB；Pro 6000D 为国内版，单卡 84GB。追求最大单卡显存选 Pro 6000，按国内渠道采购与供货周期考虑可选 Pro 6000D。顾问会按模型规模与预算给出推荐。
能跑哪些大模型？
主流开源大模型均可部署。具体可运行的模型规模与并发由显存配置决定，顾问会按需求评估，也可到机房实测。
供货周期多久？
供货周期按配置与下单时的库存确认，顾问会在报价时一并说明。
可以试用吗？
可以申请试用或到机房实测，提交需求后由顾问安排。
Related