裸金属 GPU 集群
独享加速节点，搭配高带宽、低延迟网络，无虚拟化损耗。
ClusterHKG-01 · Training
Healthy
GPU utilisation87.4%
Active jobs246 queued
Hall power1.82 MWPUE 1.24
Throughput · tokens / s2.41M
Fleet map · 256 GPUs
llm-pretrain-70bRunning512 GPU
vision-ft-a12Running64 GPU
inference-api-prodServing32 GPU
rag-embed-batchQueued16 GPU
界面仅作示意。
(01)平台能力
从 GPU 到您的模型
之间的一切
以同一个控制平面完成训练、微调与部署——运行在我们自行设计和运营的基础设施之上。
托管 Kubernetes 与 Slurm
自带容器或批量任务，编排、调度与健康检查由我们负责。
推理服务端点
以自动扩缩容、低延迟的 API 部署模型，按用量计费。
高性能存储
并行文件与对象存储紧邻 GPU 部署，数据读取不再拖慢训练。
可观测性与计量
实时遥测、按任务归集成本，账单清晰透明。
企业级隔离
私有租户、专属网络，并提供数据驻留香港的选项。
GridPort · 算力分发平台
要的是 Token，
而不是 GPU？
GridPort 以开放模型推理的形式交付算力：一个兼容 OpenAI 的 API，按 Token 计费，路由、计量与容错由平台处理。
(02)开发者体验
从登录到首个任务，
只需数分钟
按您团队习惯的方式工作。可在控制台开通集群，以命令行编写脚本，或通过 API 驱动一切。
控制台、CLI 与 API
凡能点击完成的操作，皆可自动化。
沿用您的技术栈
您的容器、框架与调度器无需改动即可运行。
成本可追溯
利用率、吞吐量与开支，按任务逐一拆分。
# Reserve a 512-GPU training cluster in Hong Kong
$ hkc cluster create train-01 \
--region ap-hongkong-1 \
--nodes 64 --gpus-per-node 8 \
--fabric infiniband --scheduler slurm
✓ train-01 ready · 512 GPUs · 4m 12s
$ hkc job submit --cluster train-01 \
--image registry/llm-pretrain:latest \
--gpus 512 -- python train.py --config 70b.yaml
✓ llm-pretrain-70b running
$ hkc job logs llm-pretrain-70b --follow
step 1200 · loss 2.184 · 2.41M tok/s# Serve a model behind an autoscaling endpoint
from hkcompute import Client
hkc = Client()
endpoint = hkc.endpoints.create(
name="inference-api-prod",
model="registry/my-model:v3",
region="ap-hongkong-1",
gpus=4,
autoscale=(2, 32),
)
print(endpoint.url)
# https://inference-api-prod.ap-hongkong-1.…# Your existing manifests run unchanged
apiVersion: batch/v1
kind: Job
metadata:
name: vision-ft-a12
spec:
template:
spec:
containers:
- name: trainer
image: registry/vision-ft:latest
resources:
limits:
gpu: 8
restartPolicy: Never命令及 SDK 仅作示意。
(03)安全与租户隔离
隔离，
源于设计
为视模型与数据为最宝贵资产的团队而建，亦顾及监管机构的要求。
私有租户
单租户集群，不共享计算、存储或管理平面。
专属网络
私有连接与隔离的网络架构，并可直连您自己的站点与云环境。
数据驻留
可选择在每个环节将数据、模型与日志留在香港。
访问控制与审计
基于角色的访问控制、单点登录，以及每项操作的审计记录。