Dharma-AI 称其分配器提升了 GPU 使用率
在相同集群的基准测试中，约束感知调度器击败了 FIFO。
为什么重要
这些结果表明，调度和工作负载编排是提升 AI 基础设施效率的重要杠杆，而不只是模型或硬件改进。对于运行共享 GPU 集群的团队来说，分配策略会影响容量使用率，也会影响符合业务优先级的产出。
核心要点
- 1.在七个基准测试场景中，利用率有六个提升、一个持平。
- 2.按优先级加权的产出在七个场景中全部上升。
- 3.在已报告的测试中，该分配器运行耗时为 1 到 15 毫秒。
Dharma-AI 发布了其约束感知 GPU 分配器的基准测试结果，并在七种场景中将其与 FIFO 调度器进行了对比。在相同硬件和工作负载下，该分配器将 GPU 利用率最高提高了 33 个百分点，并在所有场景中提升了按优先级加权的产出，最高增幅达 105.1%。该系统把实时推理需求视为一条曲线，将类似批处理的任务安排在可用的需求低谷中，并以 24 小时为周期重新运行分配，但只承诺当前时间步的调度。
⚡ 今天就能用
审视 FIFO 或静态预留式 GPU 调度，并用你自己的工作负载测试需求感知、基于优先级的分配方案。
来源与原始报道
本简报汇总并链接到以下媒体的报道。
觉得这篇简报有用？下一篇直接送到你的邮箱。
更多 硬件与算力
硬件
TerraPower瞄准AI数据中心，推广核反应堆供电方案
TechCrunch报道称，TerraPower认为自己在数据中心电力交易中具备战略优势。
TechCrunch AI·11h ago
硬件
Relativity Networks 融资 2200 万美元，押注更快的数据中心光纤
该公司正在为数据中心开发空芯光纤，目标是将数据传输速度提升 30%。
TechCrunch AI·16h ago
硬件
Apple 配备摄像头的 AirPods 现身泄露视频
macOS Tahoe 26.7 RC 中的一段视频显示，传闻中的 AirPods 可通过 Siri 使用 Visual Intelligence。
The Verge AI+1 家媒体·1d ago