“预算缩减，算力不缩水”——二手 H100 模组选购全流程指南

2026-01-09 10:09 浏览: 次

“预算砍一半，算力不打折”已经成为今年 AI 圈最具代表性的共识。在美国出口限制持续加码、新一代 GPU 交付周期被推迟到 2026 年的背景下，越来越多初创团队开始将目光转向二手 H100 模组。相同规模的 175B 大模型训练任务，二手单卡的投入通常仅为全新设备的约 55%。但现实是，省下来的成本，往往也伴随着不小的风险。一块卡的成色、来源或维护状态出现问题，就可能让“性价比”瞬间变成“踩坑”。

不久前，我协助客户验收过一批二手 H100 模组。表面上看，型号一致，但其中一家供应商报价比另一家低了 12 万元。拆机检测后才发现，其 HBM3 显存已被替换为降级颗粒，显存带宽直接下降约 35%，训练过程中频繁掉卡，反而带来更高的隐性损失。想真正把钱花在刀刃上，建议严格遵循下面四个步骤操作，尤其是最后一步，往往被绝大多数买家忽视。

一、追溯“出身”，先确认卡的真实来源

在接触二手 H100 模组时，第一步不是砍价，而是核实“出身”。务必要求卖方提供完整的序列号（SN）、出厂 BOM 配置截图以及原始机房的上架或使用记录，确保三项信息能够一一对应，才能排除矿卡、拼装卡或 OEM 洗白卡的风险。

目前，专业算力平台已经建立了较为完善的模组数据库，部分系统收录了上万条 H100 模组的原厂档案。通过扫码或输入 SN，即可快速比对原始配置，几秒钟生成核验结果，有效避免“同壳不同芯”的问题。

二、做“体检”，性能和稳定性必须实测

来源确认只是基础，性能检测才是关键。合格的二手 H100 模组，必须完成不少于 30 分钟的 FP8 满载压力测试。在测试过程中，核心温度应控制在 82℃以内，显存 ECC 不得出现任何错误，才能视为通过。

更进一步的检测，还应覆盖 NVLink 等高速互连链路。一些看似正常的卡，在高频传输下会出现降速问题。通过专业检测方案，对信号完整性进行测量，可以当场识别潜在风险，并出具明确的检测结论，避免设备上线后才发现带宽严重缩水。

三、谈“兜底”，售后保障决定长期风险

对二手 H100 模组而言，原厂质保在国内几乎无法继续使用，多数个人或中小团队能拿到的，往往只是卖家的口头承诺。一旦出现故障，维权和更换成本极高。

更稳妥的做法，是在采购阶段就引入第三方延保或备机机制。例如通过保税仓或专业算力服务商，选择 1～3 年的延保方案，在卡片出现异常时，24 小时内提供可用备机，保障训练任务不中断。对于模型训练周期紧张的团队来说，这一点往往比采购价本身更重要。

四、算清“总拥有成本”，别只盯着买入价

很多买家在选购二手 H100 时，只关注采购价格，却忽略了长期使用成本。实际上，电费、维护费用以及潜在的停机损失，才是决定真实成本的关键因素。

以 8 卡节点为例，全新设备的能效比约为 1.35；而使用年限较长、散热性能下降的老卡，能效可能跌至 1.05。仅电费一项，一年就可能多支出约 2.7 万元，三年下来，几乎相当于再购买一张显卡。如果在翻新阶段更换原厂硅脂、补强关键电容、恢复设计 TDP，则可以将能效差距控制在 3% 以内，大幅降低长期运营成本。