Dharma-AI relata maior uso de GPUs com alocador
Um escalonador sensível a restrições superou o FIFO em benchmarks com clusters idênticos.
Por que importa
Os resultados indicam que escalonamento e orquestração de cargas de trabalho são alavancas relevantes para a eficiência da infraestrutura de IA, não apenas melhorias em modelos ou hardware. Para equipes que operam clusters compartilhados de GPUs, a política de alocação pode afetar tanto o uso da capacidade quanto a produção alinhada a prioridades de negócio.
Pontos-chave
- 1.A utilização melhorou em seis dos sete cenários de benchmark e empatou em um.
- 2.A produção ponderada por prioridade aumentou em todos os sete cenários.
- 3.O alocador rodou em 1 a 15 milissegundos nos testes relatados.
A Dharma-AI publicou resultados de benchmarks de um alocador de GPUs sensível a restrições, testado contra um escalonador FIFO em sete cenários. Com hardware e cargas de trabalho idênticos, o alocador elevou a utilização das GPUs em até 33 pontos percentuais e aumentou a produção ponderada por prioridade em todos os cenários, com ganhos de até 105,1%. O sistema trata a demanda de inferência em tempo real como uma curva, distribui trabalhos semelhantes a batches pelos vales disponíveis e recalcula as alocações em um horizonte de 24 horas, comprometendo apenas o timestep atual.
⚡ Experimente hoje
Audite escalonamentos de GPUs baseados em FIFO ou reservas estáticas e teste alocação sensível à demanda e baseada em prioridades com suas próprias cargas de trabalho.
Fontes e reportagens originais
Este resumo sintetiza e linka a cobertura dos veículos abaixo.
Gostou deste resumo? Receba o próximo no seu e-mail.
Mais em Hardware e computação
TerraPower mira data centers de IA com reator nuclear
TechCrunch informa que a TerraPower vê uma vantagem estratégica em acordos de fornecimento de energia para data centers.
Relativity Networks levanta US$ 22 milhões para acelerar fibra em data centers
A empresa está desenvolvendo fibra de núcleo oco para data centers, com o objetivo de transmitir dados 30% mais rápido.
AirPods da Apple com câmera aparecem em vídeo vazado
Um clipe do macOS Tahoe 26.7 RC mostra supostos AirPods usando Visual Intelligence com Siri.