UME
UME Cloud

UME Cloud
高性能GPU租赁 · Token中转网关

面向大模型训练、推理、AI应用开发者，按需租用H100/A100/B300等高性能GPU集群； Token中转站统一对接多模型API，智能路由、限流缓存，大幅降低调用成本。

GPU算力租用 Token中转站接入

GPU算力租赁服务

按需租用裸金属GPU，支持单机/集群，训练、推理、微调一站式算力底座

H100 8卡集群

80GB HBM3，大模型预训练、长上下文推理，支持RDMA高速互联

按量计费 / 包时包月可选

B300 8卡

国产高性能GPU，适合私有化部署、模型微调、企业推理业务

裸机出租，无虚拟化损耗

A10 / A100

低成本推理、AI绘图、小规模微调，适合个人与初创团队

小时起租，随用随停

算力能力

  • 裸金属实例，直通GPU，无虚拟化损耗
  • 高速IB/RDMA网络，多卡集群低延迟通信
  • 预装CUDA、PyTorch、TensorRT等AI栈
  • 支持自定义镜像、磁盘挂载、安全隔离
  • 实时监控算力占用、显存、带宽，告警推送
  • 7×24运维，快速工单响应

Token中转站

统一API网关，聚合多家大模型，智能负载均衡，缓存降本，统一鉴权与用量统计

核心能力

  • 多模型智能路由
    自动选择延迟最低/成本最优模型，故障自动切换
  • 请求缓存
    重复prompt命中缓存，节省token开销，降低响应延迟
  • 限流 & 配额管理
    按用户/应用设置token限额，防止超支，细粒度权限
  • 全链路用量统计
    输入/输出token明细、调用日志、账单自动生成

接入示例

curl https://api.umecloud.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role":"user","content":"Hello UME"}]
  }'

兼容OpenAI协议，原有代码几乎不用修改，一键切换中转站

UME平台优势

极速开通

算力实例分钟级交付，API网关立即可用

安全隔离

租户网络隔离，数据加密，操作审计日志

灵活计费

GPU按小时/包月，Token按实际消耗量计费

技术支持

AI算力专家，模型部署、微调落地支持

基础定价

可根据大集群、长期合同申请商务折扣

GPU算力租赁

  • H100 80GB：按需时价，包月优惠
  • B300：企业集群价，支持IDC托管
  • A100/A10：推理优选，低门槛起步

Token中转站

  • 基础版：仅收取底层模型token成本，少量网关服务费
  • 企业版：独立网关、私有缓存、专属运维，固定月租
  • 支持按项目、团队独立账单拆分

常见问题

GPU实例可以自建容器、自定义镜像吗？

可以。裸金属实例拥有root权限，支持Docker、K8s，可上传自定义系统镜像。

Token中转站是否兼容OpenAI SDK？

完全兼容，只需要修改API地址和密钥，原有代码基本不用改动。

支持国内/海外模型混合接入吗？

支持，统一网关聚合，自动故障转移，可配置路由策略。

开始使用UME算力云

提交工单联系销售，获取集群报价与技术方案