AuroraCore 3.0 发布:调度延迟进入个位数毫秒
我们在今天正式发布 AuroraCore 3.0。这次迭代的核心目标只有一个:让大规模集群的算力不再被「等待」浪费。
三个关键变化
- 拓扑感知调度:把 NVLink、RDMA 与机架亲和性纳入统一评估,跨机通信开销下降 41%。
- 增量重排:任务到达时不再全量重算队列,仅对受影响区间重排,调度决策延迟稳定在 8ms 以内。
- 可观测性:新增卡时利用率热力图与排队归因分析,运维可以直接看到「算力卡在哪」。
在某头部大模型团队的生产集群中,3.0 版本把万卡规模下的平均排队时间从 22 分钟压到 8 分钟,集群有效利用率从 78% 提升到 92%。
如何升级
3.0 与 2.x 保持 API 兼容,控制面支持原地滚动升级。存量集群可在维护窗口内完成切换,任务无需重新提交。