Dharma-AI reporta mayor uso de GPU con su asignador
Un planificador sensible a restricciones superó a FIFO en pruebas de referencia sobre clústeres idénticos.
Por qué importa
Los resultados apuntan a que la planificación y la orquestación de cargas de trabajo son una palanca relevante para la eficiencia de la infraestructura de AI, no solo las mejoras de modelos o hardware. Para los equipos que operan clústeres de GPU compartidos, la política de asignación puede afectar tanto el uso de capacidad como la producción alineada con prioridades de negocio.
Puntos clave
- 1.La utilización mejoró en seis de los siete escenarios de referencia y empató en uno.
- 2.La producción ponderada por prioridad aumentó en los siete escenarios.
- 3.El asignador se ejecutó en entre 1 y 15 milisegundos en las pruebas reportadas.
Dharma-AI publicó resultados de referencia de un asignador de GPU sensible a restricciones, probado frente a un planificador FIFO en siete escenarios. Con hardware y cargas de trabajo idénticos, el asignador elevó la utilización de GPU hasta en 33 puntos porcentuales y aumentó la producción ponderada por prioridad en todos los escenarios, con mejoras de hasta el 105,1%. El sistema trata la demanda de inferencia en tiempo real como una curva, ubica trabajos tipo batch en los valles disponibles y vuelve a ejecutar las asignaciones con un horizonte de 24 horas, comprometiendo solo el intervalo temporal actual.
⚡ Pruébalo hoy
Audite la planificación de GPU basada en FIFO o reservas estáticas y pruebe una asignación sensible a la demanda y basada en prioridades frente a sus propias cargas de trabajo.
Fuentes y cobertura original
Este resumen sintetiza y enlaza la cobertura de los medios siguientes.
¿Te gustó este resumen? Recibe el próximo en tu correo.
Más en Herramientas y OSS
PTXBench pone a prueba a los LLM en la optimización de kernels para GPU
El benchmark evalúa el uso de PTX específico de cada arquitectura en cargas de trabajo GEMM y de atención sobre GPU H100 y B200.
Warp presenta Warp Factories para el desarrollo con IA
El sistema está diseñado para simplificar la creación de fábricas de software con IA.
Asana afirma que Codex reemplazó su sistema de pruebas en dos semanas
OpenAI dice que Asana usó Codex para completar una migración de ingeniería de largo recorrido por unos 12.000 dólares.