Des articles redéfinissent l’apprentissage continu pour des systèmes d’IA adaptatifs
De nouveaux travaux sur arXiv s’attaquent à l’oubli catastrophique et esquissent un basculement vers l’adaptation au niveau des systèmes.
Pourquoi c'est important
L’apprentissage continu est essentiel pour permettre aux systèmes d’IA de se mettre à jour de manière sûre au fil du temps sans oubli catastrophique. Ces articles reflètent à la fois des travaux architecturaux à court terme sur l’adaptation des MoE et une évolution plus large de la recherche vers des systèmes adaptatifs capables d’apprendre dans des contextes d’entraînement comme d’inférence.
Points clés
- 1.CP-MoE vise l’oubli catastrophique dans les LLMs et les modèles vision-langage.
- 2.L’étude situe l’apprentissage continu selon le moment, la manière et le lieu où les mises à jour se produisent.
- 3.Les chercheurs élargissent l’apprentissage continu au-delà des mises à jour des poids.
Deux articles récents examinent l’apprentissage continu, c’est-à-dire le défi consistant à mettre à jour des modèles d’IA tout en préservant les connaissances acquises. CP-MoE propose un cadre de mixture-of-experts préservant la cohérence pour les LLMs et les modèles vision-langage, en utilisant un expert transitoire pour guider le routage et protéger les paramètres historiques lors de la fusion. Une autre étude, Continual Learning in Transition, soutient que le domaine dépasse l’adaptation centrée sur les paramètres pour aller vers des mécanismes au niveau des systèmes, couvrant l’apprentissage on-policy, l’entraînement au moment du test, la mémoire, les bibliothèques de compétences et les protocoles d’interaction.
⚡ À tester aujourd'hui
Passez en revue les stratégies d’apprentissage continu en identifiant où les mises à jour ont lieu : dans les paramètres, dans les mécanismes au moment de l’inférence, ou dans la mémoire et les outils externes.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
- arXiv cs.AICP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- arXiv cs.AIContinual Learning in TransitionAug 7, 12:00 PM↗
- arXiv cs.LGCP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- arXiv cs.LGContinual Learning in TransitionAug 7, 12:00 PM↗
- arXiv cs.CLCP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- HF Daily PapersContinual Learning in TransitionAug 6, 4:00 AM↗
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Recherche
L’équipe MiLMMT publie des modèles de traduction sans référence
MiLMMT-46-v1.0 utilise GRPO et l’interpolation de checkpoints pour améliorer la traduction multilingue ouverte.
DistilVDR compresse la recherche visuelle de documents
Ce moteur de recherche à 524 millions de paramètres utilise une distillation bilatérale à partir d’un modèle enseignant vision-langage de 8 milliards de paramètres.
Des chercheurs proposent Power Law Graph Attention
PLGA généralise l’attention par produit scalaire mis à l’échelle et rapporte un effondrement de l’inférence sous invariance exacte.