统一 OpenAI 兼容 API,一站式调度阿里云 PAI、华为云昇腾、中国移动九天、中国电信星辰、中国联通元景智算中心的 GPU 资源。算力即 Token,用多少付多少;智能路由、负载均衡、实时计量,开箱即用。
覆盖国内主流云厂商 GPU 集群及三大运营商智算中心,通过统一接口按 Token 聚合调度
开箱即用的企业级 AI 算力聚合调度能力
采用 OpenAI 兼容格式,现有代码零改动即可切换算力池,降低迁移成本。
按模型、显存、延迟、单价四维策略自动选卡,支持成本优先与性能优先模式。
按 Token 与 GPU 秒双维度实时计费,可视化仪表板一眼掌握每一分算力开销。
多 API Key 管理,支持配额控制、速率限制、模型与算力池权限分配,安全可控。
算力池异常或显存溢出时自动切换到备用节点,保障推理业务高可用。
按 Token 计费、余额管理、预算预警、闲时算力折扣,帮助企业精细化控制成本。
三步即可接入,无需修改现有代码
# 1. 安装依赖 npm install # 2. 配置算力池 API Key(环境变量) export ALIYUN_API_KEY="sk-xxx" export HUAWEI_TOKEN="xxx" export CMCC_API_KEY="xxx" export TELECOM_API_KEY="xxx" export UNICOM_API_KEY="xxx" # 3. 启动服务 npm start
# 调用示例(curl)- 兼容 OpenAI 格式,按 Token 计费 curl http://localhost:3000/v1/chat/completions \ -H "Authorization: Bearer sk-avid-demo-2026" \ -H "Content-Type: application/json" \ -d '{ "model": "qwen-max", "gpu_preference": "cost", "messages": [ {"role": "user", "content": "你好"} ] }'