MIT CSAIL의 Rikiya Takehi 등이 11월 2일 블로그 'Sparks of Weight-Space Programming'에서 진행한 실험 8의 결과물입니다. 이 실험에서는 최신 대형 언어 모델(본문에서는 Astra라고 함)이 Python 환경에서 Qwen3.5-0.8B의 가중치를 직접 읽고 쓰도록 하여, 경사 하강법을 실행하거나 학습하지 않고도 GSM8K / MATH 연습 문제를 50번의 순전파 추론으로만 확인하여 모델이 사고 과정에서 반복적으로 맴도는 방향을 찾아냈습니다. 이 방향을 제 15층과 19층 MLP의 down_proj 각 64열에서 차감하여 총 131,072개의 가중치(0.016% 비율)를 수정했습니다. 이 저장소는 수정된 모델이며, 11월 2일에 생성되었고 최근 7기간 동안 업데이트되지 않았습니다.
상승 점수 64 · 좋아요 64 · 다운로드 수 310
이유
- 저자는 원본 모델이 거의 모든 수학 문제에서 토큰 상한(93.0% 도달)까지 계속 생각하다가 수정 후에는 33.1%으로 감소했다고 주장합니다. 동일한 샘플링 설정에서 MATH-500 점수는 7.9%에서 48.1%으로, GSM8K 점수는 13.8%에서 67.1%으로 상승했으며, 특별히 최적화하지 않은 IFEval 점수도 21.0%에서 62.3%으로 상승했습니다.
- 검증 가능: 수정 사항은 GitHub(RikiyaT/lm_understand-logs의 exp8_math)에 비트 단위로 일치하는 diff로 공개되어 있으며, 원본과 비교하여 두 개의 텐서만 다르고, 모델 카드에는 두 버전의 sha256이 나열되어 있습니다. akhaliq은 ML Intern을 사용하여 H200에서 원래 프로토콜에 따라 전체 MATH-500(500문제 × 4회 샘플링)를 재실행하여 51.0%, 31.6% 상한 도달 결과를 얻었으며, 문제별 결과는 저장소의 eval/ 디렉터리에 있습니다.
- 의의는 방법론에 있습니다. 같은 블로그에서는 대형 언어 모델이 가중치만 보고 네트워크가 어떤 게임을 하도록 학습되었는지 판단하고, 작은 게임을 할 수 있는 네트워크를 처음부터 작성하는 실험도 수행했습니다. 이 저장소는 본문에서 언급된 실제 언어 모델 실험의 공개 체크포인트로, 직접 다운로드하여 비교할 수 있습니다.
사용법
- vLLM: LLM(model="RikiyaT/Qwen3.5-0.8B-weight-space-programming", dtype="bfloat16", max_model_len=34816)을 사용하며, apply_chat_template 시 enable_thinking=True로 설정합니다. 샘플링은 모델 카드에 명시된 대로 temperature 0.6, top_p 0.95, top_k 20, presence_penalty 1.5, max_tokens 32768을 사용합니다.
- 수학 문제의 경우 문제 뒤에 'Please reason step by step, and put your final answer within \boxed{}'라는 문장을 추가하고, 마지막 \boxed{} 내용을 정답으로 취합니다.
- 배포를 원하지 않는 경우, Space의 ML-Intern-lab/weight-space-programming-demo에서 원본과 수정된 버전을 동일한 문제로 비교할 수 있습니다(모델 카드에 적힌 akhaliq/weight-space-programming-demo는 현재 이 주소로 리디렉션됩니다).
리스크
- 0.8B 소형 모델로, 수정 후에도 MATH-500 점수는 약 50% 수준에 불과하며, 여전히 약 1/3의 응답이 상한까지 생각하므로 실용적인 수학 어시스턴트로는 적합하지 않습니다. 주로 연구 시연용입니다.
- 점수는 저자와 akhaliq이 직접 실행한 것으로, 긴 사고 과정(최대 32,768 토큰)과 특정 샘플링 파라미터를 사용했습니다. 원본의 낮은 점수는 주로 무한 루프로 인해 답을 내지 못했기 때문이며, 상한을 줄이거나 다른 샘플링 파라미터를 사용하면 결과가 달라질 수 있습니다. 재실행 시 원본은 25문제에 대한 스모크 테스트만 수행했습니다.
- 수정을 수행한 최신 모델은 공개되지 않아, 타인이 재현할 수 있는 것은 수정된 체크포인트와 평가 결과일 뿐, '대형 언어 모델이 가중치를 수정하는' 과정 자체는 아닙니다. 저장소는 완전한 멀티모달 버전이며, 원문 평가에는 텍스트 전용 내보내기 버전(언어 부분 텐서 해시는 일치)이 사용되었습니다.