연구진, 통제된 LLM 연구용 LittleLearner 공개
50억 개 파라미터 모델로, 초등학교 5학년 이하 수준의 커리큘럼 말뭉치 880억 토큰으로 학습됐다.
왜 중요한가
이 연구는 LLM의 행동이 학습된 지식에서 비롯되는지, 아니면 이후 단계의 유도 과정에서 드러나는지를 살펴볼 수 있는 통제된 환경을 제공한다. 연구 결과는 사전학습 데이터의 경계가 능력의 실질적 상한선을 만들 수 있으며, 사후학습만으로는 이를 넘기 어려울 수 있음을 시사한다.
핵심 포인트
- 1.LITTLECURRICULUM은 초등학교 5학년 이하 수준 자료 880억 토큰으로 구성됐다.
- 2.LITTLELEARNER는 처음부터 학습된 50억 개 파라미터 모델이다.
- 3.사후학습과 프롬프팅은 기존 지식의 활용을 개선했지만, 범위 밖 능력은 개선하지 못했다.
연구진은 미국 초등학교 교육 자료에 맞춰 구성하고 5학년을 넘어서는 개념, 사실, 어휘를 제외한 880억 토큰 규모의 사전학습 말뭉치 LITTLECURRICULUM을 소개했다. 이들은 이 말뭉치로 50억 개 파라미터 언어 모델 LITTLELEARNER를 처음부터 학습시켰으며, 정해진 학습 범위 안에서 모델의 지식 획득을 연구할 수 있는 샌드박스로 두 자원을 모두 공개했다. 초기 실험에서는 스케일링, SFT와 GRPO를 결합한 사후학습, 인컨텍스트 러닝이 모델이 기존 지식을 활용하는 데는 도움이 됐지만, 범위를 벗어난 능력을 의미 있게 개선하지는 못한 것으로 나타났다.
⚡ 오늘 바로 활용
사후학습이 범위 밖 능력을 추가할 수 있다고 전제하기 전에, LITTLECURRICULUM과 LITTLELEARNER로 지식 주입 방법을 먼저 검증하라.
출처 및 원본 보도
이 브리핑은 아래 매체의 보도를 요약하고 링크합니다.
이 브리핑이 유용했나요? 다음 소식을 메일로 받아보세요.
관련: 연구
스타트업 “AI 암 치료 진전의 핵심은 데이터”
TechCrunch에 따르면 이 스타트업은 더 나은 데이터 없이는 AI가 암 치료에 가까워지지 못했다고 주장했다.
HarnessRisk, 에이전트 하네스 안전 실패를 벤치마크하다
이 벤치마크는 에이전트 하네스의 단계별 공격을 테스트하며, 관련 연구는 작업별 프로비저닝을 살핀다.
Agent Lightning v1.0, harness 기반 agentic RL 겨냥
이 프레임워크는 임의의 agent harness를 강화학습 기반 post-training에 연결한다.