跳转到内容

Compute

Compute 概览

Grafilab Compute 按小时把 GPU 机器租给你。你挑硬件、挑软件模板,Grafilab 从它的供应商市场里匹配一个可用节点。几分钟后你就有了一个运行中的容器,带 root shell;如果选的是 web 模板,还带一个公开 URL。

整个流程在控制台的 Compute 页面上分三步完成。

每次租用都是跑在供应商 GPU 主机上的一个 Docker 容器,而不是你自己安装的虚拟机。

  • 一个 root shell。 你通过 SSH 以 root 登录,用密码或你自己的密钥。容器里的一切都归你改 —— 装包、拉模型、跑任何东西。
  • GPU 直通。 在 GPU 节点上显卡直接挂到容器里,所以 nvidia-smi 和 CUDA 不需要额外配置就能用。
  • 一个公开的 web URL。 自带 web UI 的模板在 80 端口上通过 https://<your-slug>.instance.grafilab.ai 响应,slug 是为你的实例挑的三个用连字符连接的单词。你也可以用 Web Access 自己发布其他端口。
  • 预装好的环境。 Open WebUI、JupyterLab、ComfyUI、code-server、PyTorch 这些模板省掉了构建镜像的工夫。你也可以让租用指向你自己的镜像。
  • 2 GB 共享内存(/dev/shm),这是大多数 PyTorch data loader 需要的。

各个环境分别包含什么,见模板。

向导的第 1 步 Choose Your Power 会为供应商当前上架的每个 GPU 系列显示一张卡片:

显卡定位显存
NVIDIA H100企业级 AI —— LLM 训练80 GB HBM3
NVIDIA RTX 5090极致 AI 性能 —— Blackwell32 GB VRAM
NVIDIA RTX 5080新一代算力 —— 高能效 AI16 GB VRAM
NVIDIA RTX 4090消费级旗舰 —— 深度学习主力24 GB GDDR6X
NVIDIA L4企业级推理 —— Ada Lovelace 张量核心24 GB VRAM
NVIDIA RTX 3090性价比之选 —— 通用算力24 GB GDDR6X
CPUWeb 与微服务无 VRAM

这一行是根据实时库存生成的,所以只有当某个系列有供应商上架节点时它才会出现。如果没看到你想要的卡,过一会儿再看,或者选一个相近的系列。

有三款卡显示的是斜角的 Contact Us 标带而不是价格 —— NVIDIA B200(180 GB HBM3e)、NVIDIA L20N 72GB 和 NVIDIA L20N 48GB。这些由销售团队安排;一旦该 GPU 有了自助库存,标带会自动消失。

Compute 是一个市场:同一块 GPU 会由不同供应商以不同价格提供。向导的第 3 步按价格从低到高列出匹配的节点,每一行都告诉你租的是谁的机器:

  • Reputation —— 一个写着 excellent 或 good 的彩色徽章,依据供应商的历史表现。
  • DC Verified —— 当节点是经过验证的数据中心主机(而非家用机器)时显示的徽章。
  • Location —— 节点所在国家,这也影响计费(有些上架节点只接受同一国家的租用者)。
  • CPU model 和主频,显示在 GPU 名称旁边。
  • 一个正好四格的规格表:vCPU、RAM、VRAM、Storage。点 More 展开。

Compute 租用是按固定时长预付的,而不是运行期间按量计费:

  • 节点的价格是每小时的。总价等于该价格乘以你选择的租用时长,并在结账时一次性全额扣除。
  • 最短租用 12 小时。更长的时长由各个上架节点自行提供。
  • 总额必须至少 0.50 美元。这项检查是在换算成你的钱包币种之前、基于美元总额进行的,所以即便换算后的数字看起来更大,一次短而便宜的租用仍可能被拒绝。
  • 用你的额度余额支付,或用银行卡支付。结账页会在额度选项旁显示你的 Balance:。
  • 你的资料里必须先设置国家才能租用,因为它决定了你的钱包币种。
  • 想让实例超过到期时间继续运行,在 Expire at 到来之前用实例卡片上的 Renew。

没有提前停止,也没有部分退款:一旦启动,整段时长的费用都已支付。选一个刚好覆盖你工作量的最短时长,不够再续。

包括续期在内的每一笔扣费都会作为一行出现在 Billing → Invoice History 中。见租用与账单记录。

Nothing persists past the rental

Instances have no persistent volume. Anything you write at runtime — downloaded models, installed packages, notebooks, outputs — lives in the container for the lifetime of the rental and is gone when it expires. Before Expire at, back up the folders you care about to Grafilab storage and download the archive.