Nuevos papers replantean el aprendizaje continuo para sistemas de IA adaptativos
Nuevos trabajos en arXiv abordan el olvido catastrófico y trazan un giro hacia la adaptación a nivel de sistema.
Por qué importa
El aprendizaje continuo es clave para que los sistemas de IA puedan actualizarse de forma segura con el tiempo sin sufrir olvido catastrófico. Los papers reflejan tanto avances arquitectónicos de corto plazo en la adaptación de MoE como un giro más amplio de la investigación hacia sistemas adaptativos que aprenden en contextos de entrenamiento e inferencia.
Puntos clave
- 1.CP-MoE apunta al olvido catastrófico en LLMs y modelos de visión-lenguaje.
- 2.El estudio enmarca el aprendizaje continuo según cuándo, cómo y dónde ocurren las actualizaciones.
- 3.Los investigadores están ampliando el aprendizaje continuo más allá de las actualizaciones de pesos.
Dos papers recientes examinan el aprendizaje continuo, el problema de actualizar modelos de IA sin perder conocimientos previos. CP-MoE propone un marco de mezcla de expertos que preserva la consistencia para LLMs y modelos de visión-lenguaje, usando un experto transitorio para guiar el enrutamiento y proteger parámetros históricos durante la fusión. Un estudio aparte, Continual Learning in Transition, sostiene que el campo está yendo más allá de la adaptación centrada en parámetros hacia mecanismos a nivel de sistema que abarcan aprendizaje on-policy, entrenamiento en tiempo de prueba, memoria, bibliotecas de habilidades y protocolos de interacción.
⚡ Pruébalo hoy
Revise los planes de aprendizaje continuo según dónde ocurren las actualizaciones: en los parámetros, en mecanismos durante la inferencia o en memoria y herramientas externas.
Fuentes y cobertura original
Este resumen sintetiza y enlaza la cobertura de los medios siguientes.
- arXiv cs.AICP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- arXiv cs.AIContinual Learning in TransitionAug 7, 12:00 PM↗
- arXiv cs.LGCP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- arXiv cs.LGContinual Learning in TransitionAug 7, 12:00 PM↗
- arXiv cs.CLCP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- HF Daily PapersContinual Learning in TransitionAug 6, 4:00 AM↗
¿Te gustó este resumen? Recibe el próximo en tu correo.
Más en Investigación
Investigadores proponen un modelo de difusión para eliminar reflejos en video
S2R combina una simulación física de reflejos con un modelo de difusión para eliminar reflejos en video y un benchmark.
Un artículo sostiene que la seguridad de los agentes necesita contratos en tiempo de ejecución
El artículo en arXiv afirma que la alineación durante el entrenamiento no basta para los agentes autónomos.
Investigadores prueban arneses creados por IA para modelos más débiles
Un modelo más potente construyó estructuras de inferencia que elevaron las puntuaciones de modelos más débiles en benchmarks de Teoría de la Mente.