加密知识一站通
行情·工具·策略

SpaceX自研C语言AI训练框架接近完工,将用于训练Grok v5

动察 Beating 监测,马斯克透露,SpaceX 内部团队正在接近完成用 C 语言自研的超大规模 AI 训练框架 V1.0 版本。

在硬件映射与并行机制上,全新训练栈能精准适配由 22 万张英伟达 GB300 加速卡与 800G 网卡组成的超大规模计算集群。为了压榨底层算力,框架在设计上极度贴近裸金属(bare metal)底层,并深度采用流水线并行(pipeline parallelism)技术。马斯克透露,在应对超大规模训练任务时,纯 C 语言编写的底层架构相较于谷歌主流的高级 AI 框架 JAX,潜在运行速度可提升一个数量级以上(即 10 倍以上)。

全新自研训练栈将运行于 SpaceX 旗下的 Colossus 超级计算集群,直接服务于下一代大模型 Grok v5 的全量训练与迭代。

赞(0)
未经允许不得转载:币须知道 » SpaceX自研C语言AI训练框架接近完工,将用于训练Grok v5

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址