过去两年大模型训练、微调和推理的需求快速增长GPU 云服务市场出现了大量新玩家。和传统的 AWS、Azure、GCP 不同这些服务商从第一天起就把 NVIDIA GPU 集群作为核心产品围绕 InfiniBand 网络、Kubernetes 调度、按秒计费和大规模电力签约来设计整个平台。行业里习惯把这类服务商叫做Neocloud新型云服务商。做技术选型时团队最关心的问题通常很集中按小时租卡到底贵不贵能不能拿到长期的资源保障训练集群的网络是不是 InfiniBand数据出站会不会产生隐藏费用本文从公开定价、签约电力、可用 GPU 型号、网络架构和适用场景几个维度对比 CoreWeave、Nebius、Lambda、Crusoe 与 Groq 这五家常被提起的算力平台帮助你在 2026 年做 GPU 算力采购时有一个相对清晰的判断框架。无论你是刚接触 GPU 租用的独立开发者还是正在为团队评估大模型训练基础设施的技术负责人这篇文章都会提供一套可以落地的选型思路。需要提前说明的是云厂商的价格和库存变化很快文中给出的价格以量级和计费模式为主具体数字需要以各家官网当时的数据为准。1. Neocloud 与传统云厂商的差异1.1 什么是 Neocloud先回顾一个基础问题Neocloud 到底是什么。传统云厂商提供的服务范围很宽计算、存储、网络、数据库、大数据、机器学习平台几乎什么都有。而 Neocloud 更像是“为了 GPU 训练和推理而生的专用云”它们把绝大多数资源投入到 NVIDIA 加速卡、高速互联网络和大规模电力供应上在通用云服务上投入相对较少。这并不是说 Neocloud 没有存储和网络能力而是它们的核心目标非常明确让用户能够快速租到大规模 GPU 集群并且在多卡训练时获得接近本地数据中心的通信性能。从开发者视角看Neocloud 和传统云厂商的区别主要体现在下面几点对比维度传统云厂商Neocloud 服务商核心资源CPU、GPU、数据库、大数据服务以 NVIDIA GPU 集群为核心网络架构通用 VPC 网络高性能网络需单独开通默认提供 InfiniBand 或高性能 RoCE 网络计费方式按小时/按秒通常有预留实例按秒/按小时提供长期合约折扣调度方式自研云平台Kubernetes、SLURM 等开发者熟悉的调度器目标用户全场景企业和开发者AI 训练、微调、推理团队简单说Neocloud 是“围绕 AI 算力重新设计的一朵云”。它不追求大而全而是追求在 GPU 密集型负载上做到更低的成本、更短的交付周期和更好的网络性能。1.2 为什么 Neocloud 在 2025 到 2026 年爆发过去两年大模型训练集群的规模从几百卡扩展到上万卡传统云厂商的数据中心并不总能快速满足这种“一次性交付大量 H100/H200/B200 节点”的需求。与此同时GPU 租赁市场的价格分层也越发明显按需价格高、长期合约价格低于是专门做 GPU 算力批发和零售的 Neocloud 有了快速增长的空间。另一个驱动因素是电力。训练集群不仅要买卡还要解决供电和散热。Neocloud 服务商往往在电力资源丰富的地区建设数据中心并提前锁定长期电力合约。这也是为什么本文会把“签约电力”作为对比维度之一——签到的电力越多意味着未来能够交付的 GPU 节点越多。1.3 Neocloud 与“GPU 租用”的关系搜索热词里频繁出现“GPU租用”“GPU算力”“GPU计算平台”实际上这些词对应的就是 Neocloud 提供的核心服务。你可以把它们理解为同一个生态的不同表达按小时租一张 H100属于 GPU 租用。租一个包含 8 张 H100、配了 InfiniBand 的节点属于 GPU 计算平台。在一个统一平台上创建 Kubernetes 集群按需调度 GPU 资源属于 Neocloud 的标准用法。因此本文讨论的五家平台并不是简单的“显卡租赁网站”而是具备完整资源调度、网络互联、存储配套和计费体系的算力基础设施提供商。2. 五家平台背景与核心定位在对比具体价格之前先建立对五家平台的基本认知。它们虽然都被归入 Neocloud 阵营但商业模式和定位差异很大。2.1 CoreWeave以规模化训练集群见长CoreWeave 是这五家中在 AI 训练领域声量最大的一家。它最初以以太坊挖矿和云计算起家后来将重心完全转向 GPU 云服务。它的特点是大量部署 NVIDIA H100、H200、B200 等数据中心级 GPU。网络方案以 InfiniBand 为主适合大规模分布式训练。和多家大模型公司签有长期合约锁定大量 GPU 库存。提供 Kubernetes 原生体验支持按秒计费。对于需要调度 128 卡、256 卡甚至上千卡做预训练或全参数微调的团队CoreWeave 是重点关注对象。它的价格定位偏中高端但换来的是更高的资源可用性和更成熟的训练运维能力。2.2 Nebius出自 AI 基础设施老牌团队Nebius 的前身是 Yandex 的云和 AI 基础设施部门独立运营后继续做大规模 GPU 云平台。它的核心优势是工程能力尤其是对大规模 Kubernetes 集群和 AI 基础设施的运维经验。Nebius 的特点包括在欧洲和北美都有可用区适合业务部署在欧洲的团队。提供裸金属 GPU 服务器和托管 Kubernetes 两种模式。网络支持 InfiniBand适合训练场景。控制台和 CLI 体验比较接近传统云厂商。如果你所在团队更习惯欧洲数据合规要求或者需要同时兼顾训练和推理Nebius 的定位会比较合适。2.3 Lambda从深度学习硬件到按需云Lambda 最初以深度学习工作站和服务器闻名后来推出了自己的 GPU 云平台。它的特点是价格策略更亲民在社区和学术圈有很高知名度。提供单卡到多卡实例支持 PyTorch 镜像一键启动。平台界面简单适合个人开发者和中小团队。有长期合约选项锁定价格后成本会更低。Lambda 的定位有点像“AI 开发者的入门云”它不要求你必须具备复杂的 Kubernetes 运维能力通过简单的控制台和 SSH 就能开始训练。2.4 Crusoe强调绿色能源与电力成本Crusoe 的差异化标签是“清洁能源”和“低成本电力”。它使用天然气发电伴生气和可再生能源为数据中心供电同时把废弃热量回收利用。这听起来更像能源公司但最终交付的仍然是 GPU 计算服务。Crusoe 的特点包括通过低成本电力降低整体算力价格长期合约价格有竞争力。提供 H100、H200 等主流训练卡并布局新一代 Blackwell 架构。数据中心位置通常靠近能源产地网络延迟和传统云厂商相比不一定占优。适合对 ESG、碳足迹有要求的组织和以长期合约为主的采购方。2.5 Groq不是传统 Neocloud而是推理专用云把 Groq 放进这个对比里需要做一个重要区分Groq 的核心产品不是 NVIDIA GPU而是自研的 LPULanguage Processing Unit推理加速芯片。因此严格来说 Groq 不是 GPU 云而是“AI 推理云”。它的核心优势是推理速度极快延迟很低适合高并发、低延迟的生成式 AI 推理。通过 API 提供服务开发者无需管理底层显卡或容器。功耗比 NVIDIA GPU 更低但生态兼容性不如 CUDA。如果你需要的是大模型训练Groq 并不适合但如果你要做大规模推理服务尤其是 LLM 的实时响应Groq 是一个值得对比的选项。在 2026 年的选型中不能只看训练卡推理侧的成本和延时要一起评估。3. 公开定价与计费模式对比3.1 定价模式先看这几个维度比较不同平台的 GPU 价格不能只看一个“每小时多少钱”。需要同时关注下面几个维度按需价格不承诺用量随开随用适合测试和小规模任务。长期合约价格承诺 1 到 3 年用量通常能拿到 30% 到 60% 的折扣。存储费用GPU 实例的本地 SSD 和共享存储是否单独计费。网络出站流量从云平台下载模型或导出数据是否收费。预留实例未开机但锁定的资源是否仍需付费。物理独享性是否和其他用户共享一台物理服务器。根据公开资料和行业反馈五家平台的定价模式可以这样概括厂商按需计费长期合约网络出站费存储计费CoreWeave按秒计费支持折扣明显通常含一定免费额度超量收费按 GB 月租Nebius按秒计费支持按流量计费按 GB 月租Lambda按小时/按秒支持包含基础额度按 GB 月租Crusoe按小时/按秒支持长期价格优势明显按流量计费按 GB 月租GroqAPI 按 Token 计费支持批量折扣无传统网络计费不涉及存储这里的“按 Token 计费”是 Groq 与另外四家的本质区别。使用 GPU 云时你为“资源”付费使用 Groq 时你为“推理结果”付费。3.2 H100/H200/B200 的价格量级参考为了避免给出过时数据这里不写死具体价格而是描述价格量级和常见区间NVIDIA H100 按需价格通常在每小时 2 到 3 美元区间长期合约可以降到 1.5 美元以下。NVIDIA H200 的按需价格通常会比 H100 高出 20% 到 40%具体取决于显存容量和网络配置。NVIDIA B200 目前仍属于新一代产品价格明显高于 H100/H200且不同区域的供货差异较大。8 卡节点通常比单卡实例更有价格优势换算到单卡成本会更低。这里给一个代码思路用于在接入任意一个 GPU 云平台后快速对比当前实例的 GPU 规格和价格是否匹配# 登录到 GPU 实例后查看 GPU 型号和显存 nvidia-smi # 查看 GPU 利用率确认是否有其他进程抢占 nvidia-smi --query-gpuindex,name,memory.used,memory.total,utilization.gpu --formatcsv预期输出示例0, NVIDIA H100 80GB HBM3, 32100 MiB, 81559 MiB, 78% 1, NVIDIA H100 80GB HBM3, 1024 MiB, 81559 MiB, 2%如果 Utilization 始终为 0%而任务又显示正在运行需要检查训练脚本是否真的把数据加载到了 GPU 上。3.3 大额合约的议价空间在 2026 年的市场环境下GPU 云的公开标价更多是一个起点。对于采购规模较大的团队几乎所有平台都支持商务谈判。影响折扣力度的因素包括合约期限1 年、2 年还是 3 年。资源规模是租 10 张卡还是 1000 张卡。预付比例预付越多折扣越大。是否接受“不可取消配额”如果承诺即使闲置也付费价格可以进一步降低。建议在评估时让各家给出包含以下内容的报价单每 GPU 每小时的有效单价。是否含税。存储费用是否包含。出站流量费用标准。资源交付时间。硬件故障替换策略。只有拿到这些信息才能做真正的横向对比。4. 签约电力为什么它是 2026 年的核心指标4.1 签约电力决定算力上限“签约电力”是指云服务商与电力公司或能源项目方签订购电协议后可获得的电力容量通常以兆瓦MW为单位。数据中心签约了多少电力基本决定了它能部署多少 GPU。我们可以做一个粗略估算一个 8 卡 H100 节点的满载功耗大约在 10 到 12 千瓦。加上制冷和网络设备数据中心的总电力需求通常是 IT 负载的 1.3 到 1.5 倍。因此100MW 的 IT 电力大约能支撑 7000 到 9000 张 H100 的规模。这意味着签约电力越高的平台未来交付大规模训练集群的能力越强。如果你是一个准备在今年租用 500 卡以上集群的团队平台有没有足够电力储备是比单卡价格更重要的决策因素。4.2 五家平台的电力与产能量级根据公开签约信息和行业报道大致可以这样定位厂商签约电力量级区域重点产能特征CoreWeave已签约多个大型数据中心项目总容量向 GW 级靠拢北美、欧洲新增产能主要面向 NVIDIA 新一代 GPUNebius数百 MW 量级欧洲、北美强调自有数据中心与合作伙伴结合Lambda数百 MW 量级北美扩张速度较快Crusoe数百 MW部分项目向 GW 级推进北美以低成本能源项目为核心Groq功耗远低于 GPU 集群北美产能约束主要来自芯片供应而非电力需要说明的是以上数据是公开信息中的量级范围不是精确合同数值。签约电力是一个动态指标每个月都可能变化。对采购方而言更重要的是向平台方索要“你所在区域可以立即交付的 GPU 数量”而不是只看总签约量。4.3 电力、散热与新一代 GPU2025 年下半年到 2026 年NVIDIA B200 系列的功耗比 H100 更高单卡功耗可能超过 1000W。这意味着数据中心如果仍然使用传统的风冷架构很难满足高密度部署需求。液冷从可选方案变成了必选方案。在选择云平台时可以重点关注数据中心是否支持液冷。是否支持高密度机柜部署。新一代 GPU 的上架时间。供电机柜的功率上限。如果平台签约了大量电力但数据中心没有液冷能力那么即使拿到新一代 GPU也可能无法满负荷运行。5. 网络、存储与开发者体验5.1 网络架构InfiniBand 还是 RoCE训练大模型时节点之间的通信速度和稳定性直接影响训练效率。当前主流方案有两种InfiniBand延迟低、带宽高、生态成熟多用于 HPC 和 AI 训练。RoCERDMA over Converged Ethernet基于以太网的 RDMA 方案成本更低但需要调优网络参数。CoreWeave、Nebius 在训练集群中普遍提供 InfiniBand 网络。Lambda 在部分节点也支持 InfiniBand具体取决于实例类型。Crusoe 同样提供高性能网络选项但需要确认所选实例是否包含 RDMA 能力。对于单机 8 卡以内的训练任务网络影响不大但一旦超过单机多卡就需要认真核对# 查看当前实例是否挂载了 InfiniBand 网卡 ibstat # 如果没有 ibstat 命令可以检查内核模块 ls /sys/class/infiniband/如果输出为空说明当前实例可能只有以太网跨节点通信性能会受限。5.2 存储模型权重和数据集放哪里训练数据通常达到 TB 级模型检查点也有几十 GB 到几百 GB。GPU 云的本地 NVMe 速度最快但容量有限共享文件系统适合多节点读取数据集对象存储适合存放模型权重和日志。实际操作中可以采用分层存储策略本地 NVMe存放临时缓存、小文件、预加载的模型权重。共享文件系统存放多人共享的数据集、代码库。对象存储存放最终模型权重、训练日志、备份数据。在代码中可以使用环境变量或配置文件来区分存储路径避免写死export DATA_DIR/shared/datasets/llm-pretrain export OUTPUT_DIR/shared/output/checkpoints export CACHE_DIR/local/ssd/cache5.3 开发者体验控制台、CLI 与 Kubernetes五家平台都提供了控制台和 API但开发者体验差异较大CoreWeave 提供 Kubernetes 原生平台适合已经把工作负载容器化的团队。Lambda 提供简单的 SSH 实例创建流程适合不想折腾 Kubernetes 的开发者。Nebius 同时提供裸金属和托管 Kubernetes灵活性较高。Crusoe 的入口更偏向企业级合约和批量资源采购。Groq 只提供 API不需要管理底层资源。选择平台时应该先确认团队的技术栈。如果团队已经在用 Kubernetes选择 CoreWeave 或 Nebius 会更顺手如果只是个人跑实验Lambda 的易用性优势更明显。6. 实战快速接入并验证 GPU 云环境下面的流程以 Lambda 和 CoreWeave 的通用操作方式为例核心逻辑同样适用于 Nebius 和 Crusoe。因为每家平台的界面和 CLI 略有差异这里重点演示从创建实例到验证 GPU 可用性的完整闭环。6.1 创建实例并选择镜像登录平台控制台后一般需要完成三个步骤选择 GPU 类型例如 H100、H200。选择镜像推荐使用内置 PyTorch 镜像避免手动安装 CUDA 和 cuDNN。配置存储和网络启动实例。启动后平台会分配一个公网 IP 和 SSH 密钥你需要把私钥保存到本地。6.2 通过 SSH 连接实例在本地终端中执行chmod 400 ~/.ssh/your-key.pem ssh -i ~/.ssh/your-key.pem ubuntuyour-instance-ip注意用户名可能因镜像不同而变化常见的是ubuntu或root。登录成功后先确认 GPU 驱动是否正常nvidia-smi如果能正常输出 GPU 列表说明驱动和 CUDA 环境已经就绪。6.3 用 PyTorch 验证 GPU 是否可用创建文件gpu_check.pyimport torch if not torch.cuda.is_available(): raise RuntimeError(CUDA is not available) print(fPyTorch version: {torch.__version__}) print(fGPU count: {torch.cuda.device_count()}) print(fGPU name: {torch.cuda.get_device_name(0)}) # 创建一个测试张量并执行简单计算 x torch.randn(1024, 1024, devicecuda) y torch.randn(1024, 1024, devicecuda) z x y print(fMatrix multiplication result shape: {z.shape}) print(GPU check passed)在实例中执行python gpu_check.py预期输出类似PyTorch version: 2.4.0 GPU count: 8 GPU name: NVIDIA H100 80GB HBM3 Matrix multiplication result shape: torch.Size([1024, 1024]) GPU check passed这一步能验证驱动可用、PyTorch 正确识别 GPU、CUDA 计算正常。如果输出“CUDA is not available”需要检查当前 Python 环境中的 PyTorch 是否安装了 CUDA 版本。6.4 多卡分布式训练的快速验证如果你租用的是多卡节点可以做一个简单的分布式验证。创建文件ddp_check.pyimport os import torch import torch.distributed as dist import torch.multiprocessing as mp def run(rank, world_size): dist.init_process_group(nccl, rankrank, world_sizeworld_size) tensor torch.tensor([rank], devicefcuda:{rank}) dist.all_reduce(tensor, opdist.ReduceOp.SUM) print(fRank {rank}, after all_reduce: {tensor.item()}) dist.destroy_process_group() if __name__ __main__: world_size torch.cuda.device_count() print(fWorld size: {world_size}) mp.spawn(run, args(world_size,), nprocsworld_size)运行python ddp_check.py预期输出中每个 rank 的 after_all_reduce 值应该等于 0 1 2 ... world_size-1。这代表多卡通信正常。6.5 使用 Groq 推理 API 的对比示例为了体现 Groq 与 GPU 云的使用差异下面给出一个简单的 Groq API 调用示例。它和“创建实例、SSH、跑 Python”完全不同只需要一个 API Key。pip install groq创建文件groq_demo.pyfrom groq import Groq client Groq( api_keyyour-api-key, ) chat_completion client.chat.completions.create( messages[ { role: user, content: Explain GPU cloud in one sentence., } ], modelllama-3.3-70b-versatile, ) print(chat_completion.choices[0].message.content)运行python groq_demo.py可以看到Groq 的使用方式是“调用 API、按 Token 计费”不需要管底层芯片、驱动、容器和网络。这正是它和传统 GPU 云在用户体验上的最大区别。7. 常见问题与选型思路7.1 常见问题与排查思路问题现象常见原因解决思路nvidia-smi无输出驱动未安装或镜像不含驱动改用平台预置 GPU 镜像或手动安装 NVIDIA 驱动PyTorch 提示 CUDA not availablePyTorch 装成了 CPU 版本重新安装 CUDA 版 PyTorch检查torch.version.cuda多卡训练速度上不去节点间网络是否 InfiniBand确认实例类型支持 RDMA检查ibstat输出价格账单超出预期忽略了存储和出站流量费用预算中单独列出存储、流量、快照费用想租的 GPU 没有库存目标区域产能不足切换区域或使用长期合约锁定资源需要大规模训练但平台交期太长签约电力或供电能力不足选择有明确交付时间承诺的平台7.2 按团队类型给出推荐独立开发者 / 学生优先考虑 Lambda控制台直观按小时计费适合快速实验。中小型创业团队Lambda 或 Nebius兼顾价格和可用性Nebius 在欧洲区域的合规能力更好。中大型企业需要训练 100 卡以上集群CoreWeave 是重点考察对象InfiniBand 网络和规模化交付经验更成熟。对能源成本敏感、愿意签长期合同的团队Crusoe 值得获取报价尤其适合训练负载稳定、不频繁变动的场景。推理服务为主、延迟敏感的业务Groq API 可以作为 GPU 推理的对比方案但需要评估 Token 单价和模型兼容性。7.3 成本优化建议先用按需实例跑通验证再切长期合约不要一上来就签 3 年合约。先用按需实例完成代码验证、数据准备和镜像构建确认工作负载稳定后再谈长期合约。优先使用自带 PyTorch 镜像平台预置镜像通常已经完成 CUDA、cuDNN、NCCL 的版本匹配能大幅减少环境调试时间。及时释放闲置实例实际项目中经常出现“训练结束后忘了关闭实例”的情况。建议为实例设置定时释放策略或通过脚本检测 GPU 利用率并自动释放。合理利用预留容量如果你确定未来一周需要 32 卡训练可以提前在平台创建容量预留避免临时抢不到资源。部分平台对预留容量有折扣。监控存储增长训练日志、历史检查点、数据集副本会快速消耗存储。建议设置定期清理策略只保留最新 3 到 5 个检查点。8. 总结与下一步行动回到最初的问题2026 年选择 GPU Neocloud 平台不能只看某个时间点的标价。公开定价决定了你的启动成本签约电力决定了平台能否在大规模训练时按时交付资源网络架构决定了多卡训练的实际效率存储和出站流量费用则决定了最终账单是否可控。从五家平台来看CoreWeave 适合大规模训练和 InfiniBand 网络要求高的团队。Nebius 在欧洲区域的工程能力和合规经验比较突出。Lambda 对中小团队和开发者更友好定价策略相对透明。Crusoe 在长期合约和低成本电力上有差异化优势。Groq 则提供了完全不同的推理 API 模式适合做推理成本对比。建议你的下一步行动很具体先确定未来 3 个月的峰值 GPU 需求整理出必须使用 GPU 的任务清单然后向其中 2 到 3 家平台提交询价单要求对方提供包含存储、出站流量和交付时间的完整报价。拿到报价后再结合本文的框架做横向对比会比单纯看官网标价可靠得多。最后提醒一个小技巧无论选择哪家平台都先在一个非核心项目上跑通完整流程包括实例创建、数据上传、训练启动、检查点保存和实例释放。这套流程验证完再决定是否把核心训练任务迁移上去风险会小很多。
过去两年大模型训练、微调和推理的需求快速增长GPU 云服务市场出现了大量新玩家。和传统的 AWS、Azure、GCP 不同这些服务商从第一天起就把 NVIDIA GPU 集群作为核心产品围绕 InfiniBand 网络、Kubernetes 调度、按秒计费和大规模电力签约来设计整个平台。行业里习惯把这类服务商叫做Neocloud新型云服务商。做技术选型时团队最关心的问题通常很集中按小时租卡到底贵不贵能不能拿到长期的资源保障训练集群的网络是不是 InfiniBand数据出站会不会产生隐藏费用本文从公开定价、签约电力、可用 GPU 型号、网络架构和适用场景几个维度对比 CoreWeave、Nebius、Lambda、Crusoe 与 Groq 这五家常被提起的算力平台帮助你在 2026 年做 GPU 算力采购时有一个相对清晰的判断框架。无论你是刚接触 GPU 租用的独立开发者还是正在为团队评估大模型训练基础设施的技术负责人这篇文章都会提供一套可以落地的选型思路。需要提前说明的是云厂商的价格和库存变化很快文中给出的价格以量级和计费模式为主具体数字需要以各家官网当时的数据为准。1. Neocloud 与传统云厂商的差异1.1 什么是 Neocloud先回顾一个基础问题Neocloud 到底是什么。传统云厂商提供的服务范围很宽计算、存储、网络、数据库、大数据、机器学习平台几乎什么都有。而 Neocloud 更像是“为了 GPU 训练和推理而生的专用云”它们把绝大多数资源投入到 NVIDIA 加速卡、高速互联网络和大规模电力供应上在通用云服务上投入相对较少。这并不是说 Neocloud 没有存储和网络能力而是它们的核心目标非常明确让用户能够快速租到大规模 GPU 集群并且在多卡训练时获得接近本地数据中心的通信性能。从开发者视角看Neocloud 和传统云厂商的区别主要体现在下面几点对比维度传统云厂商Neocloud 服务商核心资源CPU、GPU、数据库、大数据服务以 NVIDIA GPU 集群为核心网络架构通用 VPC 网络高性能网络需单独开通默认提供 InfiniBand 或高性能 RoCE 网络计费方式按小时/按秒通常有预留实例按秒/按小时提供长期合约折扣调度方式自研云平台Kubernetes、SLURM 等开发者熟悉的调度器目标用户全场景企业和开发者AI 训练、微调、推理团队简单说Neocloud 是“围绕 AI 算力重新设计的一朵云”。它不追求大而全而是追求在 GPU 密集型负载上做到更低的成本、更短的交付周期和更好的网络性能。1.2 为什么 Neocloud 在 2025 到 2026 年爆发过去两年大模型训练集群的规模从几百卡扩展到上万卡传统云厂商的数据中心并不总能快速满足这种“一次性交付大量 H100/H200/B200 节点”的需求。与此同时GPU 租赁市场的价格分层也越发明显按需价格高、长期合约价格低于是专门做 GPU 算力批发和零售的 Neocloud 有了快速增长的空间。另一个驱动因素是电力。训练集群不仅要买卡还要解决供电和散热。Neocloud 服务商往往在电力资源丰富的地区建设数据中心并提前锁定长期电力合约。这也是为什么本文会把“签约电力”作为对比维度之一——签到的电力越多意味着未来能够交付的 GPU 节点越多。1.3 Neocloud 与“GPU 租用”的关系搜索热词里频繁出现“GPU租用”“GPU算力”“GPU计算平台”实际上这些词对应的就是 Neocloud 提供的核心服务。你可以把它们理解为同一个生态的不同表达按小时租一张 H100属于 GPU 租用。租一个包含 8 张 H100、配了 InfiniBand 的节点属于 GPU 计算平台。在一个统一平台上创建 Kubernetes 集群按需调度 GPU 资源属于 Neocloud 的标准用法。因此本文讨论的五家平台并不是简单的“显卡租赁网站”而是具备完整资源调度、网络互联、存储配套和计费体系的算力基础设施提供商。2. 五家平台背景与核心定位在对比具体价格之前先建立对五家平台的基本认知。它们虽然都被归入 Neocloud 阵营但商业模式和定位差异很大。2.1 CoreWeave以规模化训练集群见长CoreWeave 是这五家中在 AI 训练领域声量最大的一家。它最初以以太坊挖矿和云计算起家后来将重心完全转向 GPU 云服务。它的特点是大量部署 NVIDIA H100、H200、B200 等数据中心级 GPU。网络方案以 InfiniBand 为主适合大规模分布式训练。和多家大模型公司签有长期合约锁定大量 GPU 库存。提供 Kubernetes 原生体验支持按秒计费。对于需要调度 128 卡、256 卡甚至上千卡做预训练或全参数微调的团队CoreWeave 是重点关注对象。它的价格定位偏中高端但换来的是更高的资源可用性和更成熟的训练运维能力。2.2 Nebius出自 AI 基础设施老牌团队Nebius 的前身是 Yandex 的云和 AI 基础设施部门独立运营后继续做大规模 GPU 云平台。它的核心优势是工程能力尤其是对大规模 Kubernetes 集群和 AI 基础设施的运维经验。Nebius 的特点包括在欧洲和北美都有可用区适合业务部署在欧洲的团队。提供裸金属 GPU 服务器和托管 Kubernetes 两种模式。网络支持 InfiniBand适合训练场景。控制台和 CLI 体验比较接近传统云厂商。如果你所在团队更习惯欧洲数据合规要求或者需要同时兼顾训练和推理Nebius 的定位会比较合适。2.3 Lambda从深度学习硬件到按需云Lambda 最初以深度学习工作站和服务器闻名后来推出了自己的 GPU 云平台。它的特点是价格策略更亲民在社区和学术圈有很高知名度。提供单卡到多卡实例支持 PyTorch 镜像一键启动。平台界面简单适合个人开发者和中小团队。有长期合约选项锁定价格后成本会更低。Lambda 的定位有点像“AI 开发者的入门云”它不要求你必须具备复杂的 Kubernetes 运维能力通过简单的控制台和 SSH 就能开始训练。2.4 Crusoe强调绿色能源与电力成本Crusoe 的差异化标签是“清洁能源”和“低成本电力”。它使用天然气发电伴生气和可再生能源为数据中心供电同时把废弃热量回收利用。这听起来更像能源公司但最终交付的仍然是 GPU 计算服务。Crusoe 的特点包括通过低成本电力降低整体算力价格长期合约价格有竞争力。提供 H100、H200 等主流训练卡并布局新一代 Blackwell 架构。数据中心位置通常靠近能源产地网络延迟和传统云厂商相比不一定占优。适合对 ESG、碳足迹有要求的组织和以长期合约为主的采购方。2.5 Groq不是传统 Neocloud而是推理专用云把 Groq 放进这个对比里需要做一个重要区分Groq 的核心产品不是 NVIDIA GPU而是自研的 LPULanguage Processing Unit推理加速芯片。因此严格来说 Groq 不是 GPU 云而是“AI 推理云”。它的核心优势是推理速度极快延迟很低适合高并发、低延迟的生成式 AI 推理。通过 API 提供服务开发者无需管理底层显卡或容器。功耗比 NVIDIA GPU 更低但生态兼容性不如 CUDA。如果你需要的是大模型训练Groq 并不适合但如果你要做大规模推理服务尤其是 LLM 的实时响应Groq 是一个值得对比的选项。在 2026 年的选型中不能只看训练卡推理侧的成本和延时要一起评估。3. 公开定价与计费模式对比3.1 定价模式先看这几个维度比较不同平台的 GPU 价格不能只看一个“每小时多少钱”。需要同时关注下面几个维度按需价格不承诺用量随开随用适合测试和小规模任务。长期合约价格承诺 1 到 3 年用量通常能拿到 30% 到 60% 的折扣。存储费用GPU 实例的本地 SSD 和共享存储是否单独计费。网络出站流量从云平台下载模型或导出数据是否收费。预留实例未开机但锁定的资源是否仍需付费。物理独享性是否和其他用户共享一台物理服务器。根据公开资料和行业反馈五家平台的定价模式可以这样概括厂商按需计费长期合约网络出站费存储计费CoreWeave按秒计费支持折扣明显通常含一定免费额度超量收费按 GB 月租Nebius按秒计费支持按流量计费按 GB 月租Lambda按小时/按秒支持包含基础额度按 GB 月租Crusoe按小时/按秒支持长期价格优势明显按流量计费按 GB 月租GroqAPI 按 Token 计费支持批量折扣无传统网络计费不涉及存储这里的“按 Token 计费”是 Groq 与另外四家的本质区别。使用 GPU 云时你为“资源”付费使用 Groq 时你为“推理结果”付费。3.2 H100/H200/B200 的价格量级参考为了避免给出过时数据这里不写死具体价格而是描述价格量级和常见区间NVIDIA H100 按需价格通常在每小时 2 到 3 美元区间长期合约可以降到 1.5 美元以下。NVIDIA H200 的按需价格通常会比 H100 高出 20% 到 40%具体取决于显存容量和网络配置。NVIDIA B200 目前仍属于新一代产品价格明显高于 H100/H200且不同区域的供货差异较大。8 卡节点通常比单卡实例更有价格优势换算到单卡成本会更低。这里给一个代码思路用于在接入任意一个 GPU 云平台后快速对比当前实例的 GPU 规格和价格是否匹配# 登录到 GPU 实例后查看 GPU 型号和显存 nvidia-smi # 查看 GPU 利用率确认是否有其他进程抢占 nvidia-smi --query-gpuindex,name,memory.used,memory.total,utilization.gpu --formatcsv预期输出示例0, NVIDIA H100 80GB HBM3, 32100 MiB, 81559 MiB, 78% 1, NVIDIA H100 80GB HBM3, 1024 MiB, 81559 MiB, 2%如果 Utilization 始终为 0%而任务又显示正在运行需要检查训练脚本是否真的把数据加载到了 GPU 上。3.3 大额合约的议价空间在 2026 年的市场环境下GPU 云的公开标价更多是一个起点。对于采购规模较大的团队几乎所有平台都支持商务谈判。影响折扣力度的因素包括合约期限1 年、2 年还是 3 年。资源规模是租 10 张卡还是 1000 张卡。预付比例预付越多折扣越大。是否接受“不可取消配额”如果承诺即使闲置也付费价格可以进一步降低。建议在评估时让各家给出包含以下内容的报价单每 GPU 每小时的有效单价。是否含税。存储费用是否包含。出站流量费用标准。资源交付时间。硬件故障替换策略。只有拿到这些信息才能做真正的横向对比。4. 签约电力为什么它是 2026 年的核心指标4.1 签约电力决定算力上限“签约电力”是指云服务商与电力公司或能源项目方签订购电协议后可获得的电力容量通常以兆瓦MW为单位。数据中心签约了多少电力基本决定了它能部署多少 GPU。我们可以做一个粗略估算一个 8 卡 H100 节点的满载功耗大约在 10 到 12 千瓦。加上制冷和网络设备数据中心的总电力需求通常是 IT 负载的 1.3 到 1.5 倍。因此100MW 的 IT 电力大约能支撑 7000 到 9000 张 H100 的规模。这意味着签约电力越高的平台未来交付大规模训练集群的能力越强。如果你是一个准备在今年租用 500 卡以上集群的团队平台有没有足够电力储备是比单卡价格更重要的决策因素。4.2 五家平台的电力与产能量级根据公开签约信息和行业报道大致可以这样定位厂商签约电力量级区域重点产能特征CoreWeave已签约多个大型数据中心项目总容量向 GW 级靠拢北美、欧洲新增产能主要面向 NVIDIA 新一代 GPUNebius数百 MW 量级欧洲、北美强调自有数据中心与合作伙伴结合Lambda数百 MW 量级北美扩张速度较快Crusoe数百 MW部分项目向 GW 级推进北美以低成本能源项目为核心Groq功耗远低于 GPU 集群北美产能约束主要来自芯片供应而非电力需要说明的是以上数据是公开信息中的量级范围不是精确合同数值。签约电力是一个动态指标每个月都可能变化。对采购方而言更重要的是向平台方索要“你所在区域可以立即交付的 GPU 数量”而不是只看总签约量。4.3 电力、散热与新一代 GPU2025 年下半年到 2026 年NVIDIA B200 系列的功耗比 H100 更高单卡功耗可能超过 1000W。这意味着数据中心如果仍然使用传统的风冷架构很难满足高密度部署需求。液冷从可选方案变成了必选方案。在选择云平台时可以重点关注数据中心是否支持液冷。是否支持高密度机柜部署。新一代 GPU 的上架时间。供电机柜的功率上限。如果平台签约了大量电力但数据中心没有液冷能力那么即使拿到新一代 GPU也可能无法满负荷运行。5. 网络、存储与开发者体验5.1 网络架构InfiniBand 还是 RoCE训练大模型时节点之间的通信速度和稳定性直接影响训练效率。当前主流方案有两种InfiniBand延迟低、带宽高、生态成熟多用于 HPC 和 AI 训练。RoCERDMA over Converged Ethernet基于以太网的 RDMA 方案成本更低但需要调优网络参数。CoreWeave、Nebius 在训练集群中普遍提供 InfiniBand 网络。Lambda 在部分节点也支持 InfiniBand具体取决于实例类型。Crusoe 同样提供高性能网络选项但需要确认所选实例是否包含 RDMA 能力。对于单机 8 卡以内的训练任务网络影响不大但一旦超过单机多卡就需要认真核对# 查看当前实例是否挂载了 InfiniBand 网卡 ibstat # 如果没有 ibstat 命令可以检查内核模块 ls /sys/class/infiniband/如果输出为空说明当前实例可能只有以太网跨节点通信性能会受限。5.2 存储模型权重和数据集放哪里训练数据通常达到 TB 级模型检查点也有几十 GB 到几百 GB。GPU 云的本地 NVMe 速度最快但容量有限共享文件系统适合多节点读取数据集对象存储适合存放模型权重和日志。实际操作中可以采用分层存储策略本地 NVMe存放临时缓存、小文件、预加载的模型权重。共享文件系统存放多人共享的数据集、代码库。对象存储存放最终模型权重、训练日志、备份数据。在代码中可以使用环境变量或配置文件来区分存储路径避免写死export DATA_DIR/shared/datasets/llm-pretrain export OUTPUT_DIR/shared/output/checkpoints export CACHE_DIR/local/ssd/cache5.3 开发者体验控制台、CLI 与 Kubernetes五家平台都提供了控制台和 API但开发者体验差异较大CoreWeave 提供 Kubernetes 原生平台适合已经把工作负载容器化的团队。Lambda 提供简单的 SSH 实例创建流程适合不想折腾 Kubernetes 的开发者。Nebius 同时提供裸金属和托管 Kubernetes灵活性较高。Crusoe 的入口更偏向企业级合约和批量资源采购。Groq 只提供 API不需要管理底层资源。选择平台时应该先确认团队的技术栈。如果团队已经在用 Kubernetes选择 CoreWeave 或 Nebius 会更顺手如果只是个人跑实验Lambda 的易用性优势更明显。6. 实战快速接入并验证 GPU 云环境下面的流程以 Lambda 和 CoreWeave 的通用操作方式为例核心逻辑同样适用于 Nebius 和 Crusoe。因为每家平台的界面和 CLI 略有差异这里重点演示从创建实例到验证 GPU 可用性的完整闭环。6.1 创建实例并选择镜像登录平台控制台后一般需要完成三个步骤选择 GPU 类型例如 H100、H200。选择镜像推荐使用内置 PyTorch 镜像避免手动安装 CUDA 和 cuDNN。配置存储和网络启动实例。启动后平台会分配一个公网 IP 和 SSH 密钥你需要把私钥保存到本地。6.2 通过 SSH 连接实例在本地终端中执行chmod 400 ~/.ssh/your-key.pem ssh -i ~/.ssh/your-key.pem ubuntuyour-instance-ip注意用户名可能因镜像不同而变化常见的是ubuntu或root。登录成功后先确认 GPU 驱动是否正常nvidia-smi如果能正常输出 GPU 列表说明驱动和 CUDA 环境已经就绪。6.3 用 PyTorch 验证 GPU 是否可用创建文件gpu_check.pyimport torch if not torch.cuda.is_available(): raise RuntimeError(CUDA is not available) print(fPyTorch version: {torch.__version__}) print(fGPU count: {torch.cuda.device_count()}) print(fGPU name: {torch.cuda.get_device_name(0)}) # 创建一个测试张量并执行简单计算 x torch.randn(1024, 1024, devicecuda) y torch.randn(1024, 1024, devicecuda) z x y print(fMatrix multiplication result shape: {z.shape}) print(GPU check passed)在实例中执行python gpu_check.py预期输出类似PyTorch version: 2.4.0 GPU count: 8 GPU name: NVIDIA H100 80GB HBM3 Matrix multiplication result shape: torch.Size([1024, 1024]) GPU check passed这一步能验证驱动可用、PyTorch 正确识别 GPU、CUDA 计算正常。如果输出“CUDA is not available”需要检查当前 Python 环境中的 PyTorch 是否安装了 CUDA 版本。6.4 多卡分布式训练的快速验证如果你租用的是多卡节点可以做一个简单的分布式验证。创建文件ddp_check.pyimport os import torch import torch.distributed as dist import torch.multiprocessing as mp def run(rank, world_size): dist.init_process_group(nccl, rankrank, world_sizeworld_size) tensor torch.tensor([rank], devicefcuda:{rank}) dist.all_reduce(tensor, opdist.ReduceOp.SUM) print(fRank {rank}, after all_reduce: {tensor.item()}) dist.destroy_process_group() if __name__ __main__: world_size torch.cuda.device_count() print(fWorld size: {world_size}) mp.spawn(run, args(world_size,), nprocsworld_size)运行python ddp_check.py预期输出中每个 rank 的 after_all_reduce 值应该等于 0 1 2 ... world_size-1。这代表多卡通信正常。6.5 使用 Groq 推理 API 的对比示例为了体现 Groq 与 GPU 云的使用差异下面给出一个简单的 Groq API 调用示例。它和“创建实例、SSH、跑 Python”完全不同只需要一个 API Key。pip install groq创建文件groq_demo.pyfrom groq import Groq client Groq( api_keyyour-api-key, ) chat_completion client.chat.completions.create( messages[ { role: user, content: Explain GPU cloud in one sentence., } ], modelllama-3.3-70b-versatile, ) print(chat_completion.choices[0].message.content)运行python groq_demo.py可以看到Groq 的使用方式是“调用 API、按 Token 计费”不需要管底层芯片、驱动、容器和网络。这正是它和传统 GPU 云在用户体验上的最大区别。7. 常见问题与选型思路7.1 常见问题与排查思路问题现象常见原因解决思路nvidia-smi无输出驱动未安装或镜像不含驱动改用平台预置 GPU 镜像或手动安装 NVIDIA 驱动PyTorch 提示 CUDA not availablePyTorch 装成了 CPU 版本重新安装 CUDA 版 PyTorch检查torch.version.cuda多卡训练速度上不去节点间网络是否 InfiniBand确认实例类型支持 RDMA检查ibstat输出价格账单超出预期忽略了存储和出站流量费用预算中单独列出存储、流量、快照费用想租的 GPU 没有库存目标区域产能不足切换区域或使用长期合约锁定资源需要大规模训练但平台交期太长签约电力或供电能力不足选择有明确交付时间承诺的平台7.2 按团队类型给出推荐独立开发者 / 学生优先考虑 Lambda控制台直观按小时计费适合快速实验。中小型创业团队Lambda 或 Nebius兼顾价格和可用性Nebius 在欧洲区域的合规能力更好。中大型企业需要训练 100 卡以上集群CoreWeave 是重点考察对象InfiniBand 网络和规模化交付经验更成熟。对能源成本敏感、愿意签长期合同的团队Crusoe 值得获取报价尤其适合训练负载稳定、不频繁变动的场景。推理服务为主、延迟敏感的业务Groq API 可以作为 GPU 推理的对比方案但需要评估 Token 单价和模型兼容性。7.3 成本优化建议先用按需实例跑通验证再切长期合约不要一上来就签 3 年合约。先用按需实例完成代码验证、数据准备和镜像构建确认工作负载稳定后再谈长期合约。优先使用自带 PyTorch 镜像平台预置镜像通常已经完成 CUDA、cuDNN、NCCL 的版本匹配能大幅减少环境调试时间。及时释放闲置实例实际项目中经常出现“训练结束后忘了关闭实例”的情况。建议为实例设置定时释放策略或通过脚本检测 GPU 利用率并自动释放。合理利用预留容量如果你确定未来一周需要 32 卡训练可以提前在平台创建容量预留避免临时抢不到资源。部分平台对预留容量有折扣。监控存储增长训练日志、历史检查点、数据集副本会快速消耗存储。建议设置定期清理策略只保留最新 3 到 5 个检查点。8. 总结与下一步行动回到最初的问题2026 年选择 GPU Neocloud 平台不能只看某个时间点的标价。公开定价决定了你的启动成本签约电力决定了平台能否在大规模训练时按时交付资源网络架构决定了多卡训练的实际效率存储和出站流量费用则决定了最终账单是否可控。从五家平台来看CoreWeave 适合大规模训练和 InfiniBand 网络要求高的团队。Nebius 在欧洲区域的工程能力和合规经验比较突出。Lambda 对中小团队和开发者更友好定价策略相对透明。Crusoe 在长期合约和低成本电力上有差异化优势。Groq 则提供了完全不同的推理 API 模式适合做推理成本对比。建议你的下一步行动很具体先确定未来 3 个月的峰值 GPU 需求整理出必须使用 GPU 的任务清单然后向其中 2 到 3 家平台提交询价单要求对方提供包含存储、出站流量和交付时间的完整报价。拿到报价后再结合本文的框架做横向对比会比单纯看官网标价可靠得多。最后提醒一个小技巧无论选择哪家平台都先在一个非核心项目上跑通完整流程包括实例创建、数据上传、训练启动、检查点保存和实例释放。这套流程验证完再决定是否把核心训练任务迁移上去风险会小很多。
![[光学原理与应用-521]：对光的错误理解与纠偏](http://pic.xiahunao.cn/yaotu/[光学原理与应用-521]：对光的错误理解与纠偏)
