别被算力峰值骗了！圈内人都怕的可靠性诅咒来了
行业里有个心照不宣的秘密：大规模集群的算力，理论峰值和实际有效利用率之间，隔着一道巨大的鸿沟。
Meta Llama 3预训练过程中出现了419次故障，这个数字在圈内引发过不小的震动。更扎心的是，236B MoE模型、6000卡训练作业，24小时实测有效训练时间占比只有82.12%。这意味着，将近18%的时间，集群不是在算模型，而是在处理故障、等待恢复。万亿参数、万卡规模的场景，情况只会更差。
这不是某家厂商的个例，而是整个行业的可靠性诅咒。
看看故障根因分析就知道问题有多复杂：故障GPE、GPE CPU DRAM内存、软件Bug、网络交换机/线缆、主机主板……每一类组件都在贡献着不可忽视的中断比例。集群规模越大，组件数量呈指数级增长，故障概率也随之飙升。在大规模集群中，故障几乎成为必然，这不是悲观预测，而是残酷现实。
最近，曙光发布的ScaleX40超节点新品引起业内关注。超节点概念并不新鲜，但真正敢大规模部署的用户并不多，核心原因在于可靠性。曙光scaleX40采用无线缆正交背板设计，故障率降低30%-50%，系统可用性提升至99.99%，运维时间降至数小时，解决了超节点落地的最后一公里问题。
曙光这次把可靠性问题摆上台面，本身就是一种行业自觉。ScaleX40能不能真正缓解“靠性诅咒，需要实测数据来验证，但至少，方向是对的。
益通网提示：文章来自网络，不代表本站观点。
