发展趋势量子位5/10

WAIC直击 | 十大开源社区「挤」进了一家GPU展台,沐曦凭什么?

By 闻乐

WAIC直击 | 十大开源社区「挤」进了一家GPU展台,沐曦凭什么?
图源:量子位

AI 摘要

每个Token背后,都是一次开源协作

原文正文

WAIC直击 | 十大开源社区「挤」进了一家GPU展台,沐曦凭什么?

每个Token背后,都是一次开源协作

闻乐 发自 上海

量子位 | 公众号 QbitAI

每年WAIC第一天,都像一场“暴走探展”。

一圈逛下来,今年最热闹的几个关键词已经很明显:

超节点、大模型、Agent、AI4S。

沐曦也把今年的新东西几乎一次性搬到了现场。

曦景S600超节点首次亮相,单机柜64张GPU、可扩展至万卡集群;

AI4S方向的曦索X300系列科学智能GPU首次发布;

Agent体验区排起长队,数字员工、AI文创工作站几乎没停过。

按理说,这些已经足够成为一个GPU展台的主角。

但真正把我们留下来的,却是另一件事。

展台中央,被整整留给了十个开源社区。

龙蜥、vLLM、PyTorch基金会、SGLang……十个logo依次排开。

沐曦甚至专门做了一条开源社区打卡路线。

一家GPU公司,为什么把最显眼的位置之一留给了开源?

而要把答案讲清楚,得先从他们那套软件栈MXMACA说起。

软件,才是护城河

在算力这条赛道里泡久了的人都清楚一件事,NVIDIA能稳坐龙头,靠的从来不只是单颗芯片的硬件性能。

制程、架构、显存这些硬件指标,都是有清晰参数、看得见摸得着的东西,国产厂商咬着牙研发,总有机会把差距收窄。

真正难追的,是NVIDIA藏在硬件之下的那道护城河,CUDA软件生态。

数百万开发者的项目代码、开发经验、自研模块,全都沉淀在CUDA上。

换一张算力卡,意味着要把过往多年的技术积累大幅推倒重来,迁移成本足以让大多数团队止步。

所以国产GPU真正要啃的硬骨头,是造出一个能让开发者心甘情愿迁过来的国产算力开发环境。

沐曦自研的全栈计算软件MXMACA,正是针对这一问题交出的答卷。

这套全栈软件从编译器、算子底层函数库,一路覆盖到各大主流AI推理训练框架,目标只有一个:

把迁移成本压到最低,让开发者原有的代码无需改动,就能直接运行在沐曦GPU上。

当然了,「近零成本」已经得到了验证。

他们专门搭了一套自动化测试体系,纳入GitHub上近5000个热门开源项目,每一轮MXMACA版本更新都要跑一遍全量测试。

结果是,92%的项目一行代码都不用动,就能正常运行。

框架这头也是同样的打法。

针对PyTorch 2.8,MXMACA把全部2410个GPU算子做到了完整兼容;更关键的是速度,每次PyTorch出新版本,行业里同类方案通常要磨上好几个月才能适配完,沐曦这边一周就能收工。

vLLM生态那边就更能说明问题。

生态里两百多款大模型,沐曦自己只深度调试了五六十款主流型号,剩下的直接甩给普通本科生,让他们拿着沐曦的显卡逐一去测。最后只有十来款出现了适配障碍,绝大多数开箱即用。

连在校生都能跑完这么大规模的验证,说明MXMACA的通用兼容性足够扎实。

不过在沐曦的整盘棋里,把代码顺利跑起来还只是第一步。

真正的挑战,是AI爆发之后显现出来的。

如今,一个大模型从训练完成到上线服务,周期被压得极短,大模型厂商、云厂商都想在模型一升级就第一时间拿到收益。

可行业技术更新几乎没有间歇,今天某个模型厂商放出一套创新技术,隔天就有团队推出迭代方案。

阅读原文
WAIC直击 | 十大开源社区「挤」进了一家GPU展台,沐曦凭什么? · AI Daily