Artigos reformulam a aprendizagem contínua para sistemas de IA adaptativos
Novos trabalhos no arXiv miram o esquecimento catastrófico e mapeiam uma transição rumo à adaptação em nível de sistema.
Por que importa
A aprendizagem contínua é central para fazer sistemas de IA se atualizarem com segurança ao longo do tempo, sem esquecimento catastrófico. Os artigos refletem tanto trabalhos arquitetônicos de curto prazo sobre adaptação de MoE quanto uma mudança mais ampla na pesquisa rumo a sistemas adaptativos que aprendem em contextos de treinamento e inferência.
Pontos-chave
- 1.O CP-MoE mira o esquecimento catastrófico em LLMs e modelos visão-linguagem.
- 2.O levantamento enquadra a aprendizagem contínua em torno de quando, como e onde as atualizações ocorrem.
- 3.Pesquisadores estão ampliando a aprendizagem contínua para além das atualizações de pesos.
Dois artigos recentes examinam a aprendizagem contínua, o desafio de atualizar modelos de IA sem perder conhecimentos anteriores. O CP-MoE propõe uma estrutura de mistura de especialistas com preservação de consistência para LLMs e modelos visão-linguagem, usando um especialista transitório para orientar o roteamento e proteger parâmetros históricos durante a fusão. Um levantamento separado, Continual Learning in Transition, argumenta que a área está indo além da adaptação centrada em parâmetros, rumo a mecanismos em nível de sistema que abrangem aprendizagem on-policy, treinamento em tempo de teste, memória, bibliotecas de habilidades e protocolos de interação.
⚡ Experimente hoje
Revise os planos de aprendizagem contínua considerando onde as atualizações ocorrem: nos parâmetros, em mecanismos no momento da inferência ou em memória e ferramentas externas.
Fontes e reportagens originais
Este resumo sintetiza e linka a cobertura dos veículos abaixo.
- arXiv cs.AICP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- arXiv cs.AIContinual Learning in TransitionAug 7, 12:00 PM↗
- arXiv cs.LGCP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- arXiv cs.LGContinual Learning in TransitionAug 7, 12:00 PM↗
- arXiv cs.CLCP-MoE: Consistency-Preserving Mixture-of-Experts for Continual LearningAug 7, 12:00 PM↗
- HF Daily PapersContinual Learning in TransitionAug 6, 4:00 AM↗
Gostou deste resumo? Receba o próximo no seu e-mail.
Mais em Pesquisa
Pesquisadores propõem modelo de difusão para remover reflexos em vídeos
O S2R combina simulação física de reflexos com um modelo de difusão para remoção em vídeo e um benchmark.
Artigo defende que a segurança de agentes precisa de contratos em tempo de execução
O artigo no arXiv afirma que o alinhamento durante o treinamento é insuficiente para agentes autônomos.
Pesquisadores testam estruturas criadas por IA para modelos mais fracos
Um modelo mais forte criou scaffolds em tempo de inferência que elevaram as pontuações de modelos mais fracos em benchmarks de Theory-of-Mind.