원제: Thinking Fast, Anywhere: One System-1 for the Decision Points of Any Agent Workflow
많은 에이전트 단계는 단순히 몇 가지 알려진 옵션 중 하나를 선택하는 것(라우팅, 분류, 도구 선택, 상태 확인)에 불과하지만 매번 대규모 모델을 호출합니다. AnyS1은 SKILL.md와 같은 사람이 작성한 프로세스 스킬이 '어디서 선택을 하는지, 어떤 옵션이 있는지'를 명시한다는 특성을 활용합니다. 오프라인으로 1,072개의 공개 스킬에서 의사결정 지점을 추출하고, 격리된 컨테이너에서 실행 궤적을 수행하여 실제 상태를 수집한 후 Any-DP 데이터셋을 구축합니다. 이를 통해 라벨 스무딩이 적용되고 신뢰도가 보정된 4B 파라미터의 포인터 모델(Qwen3.5-4B-Base에 LoRA를 적용한 모델)을 학습시킵니다. 런타임 시 스킬을 세 가지 유형의 노드로 컴파일합니다. 결정적 검사는 Python 조건문으로 직접 작성하고, 열거 가능한 선택지는 소규모 모델이 한 번의 순전파(forward pass)로 결정하되 신뢰도가 임계값 미만이면 대규모 모델로 위임하며, 개방형 생성은 여전히 대규모 모델에 맡깁니다. 논문은 학습 시 보지 못한 세 가지 벤치마크에서 작업 신뢰성은 유지되면서, 컴파일되지 않은 대규모 모델 에이전트 대비 단일 세션 비용이 75–91% 감소하고 모델 호출 시간이 63–92% 감소했다고 보고합니다.
왜 중요한가 에이전트가 모든 단계에서 대규모 모델을 호출하는 것은 비싸고 느립니다. 이 접근법은 각 워크플로우마다 별도의 훅을 작성할 필요가 없으며, 동일한 소규모 모델을 보지 못한 스킬에도 직접 적용할 수 있습니다.
좋아요 5 · 코드 스타 수 2
이유
- README에 따르면 SOPBench, ALFWorld, WebShop 세 가지 벤치마크에서 대규모 모델을 각각 DeepSeek-V4.1-Flash와 GPT-6 Sol로 교체하여 테스트했으며, 동일한 AnyS1-4B 체크포인트를 사용했고 재학습은 없었습니다
- 저자들은 소규모 모델의 단일 의사결정이 단일 H100 GPU에서 22–32 밀리초가 소요된다고 주장합니다. 콜드 스타트 임계값 0.918은 그대로 이식할 수 있으며, 약 50회의 라벨 없는 섀도 실행을 통해 보정할 수도 있습니다
- 가중치 smSquirrel/AnyS1-4B와 데이터셋 smSquirrel/SkillDP가 공개되었으며, 코드는 Apache-2.0 라이선스를 따릅니다
사용법
- 코드: https://github.com/middle-chunjie/AnyS1;pip install -e . 명령으로 설치하고, 로컬에서 소규모 모델을 실행하려면 ".[train]"을 추가로 설치합니다. python -m anys1.model.serve_s1 --checkpoint smSquirrel/AnyS1-4B --port 8895 명령으로 서비스를 시작합니다
- anys1 compile 대상 SKILL.md -o 출력 디렉토리: 기본적으로 의사결정 지점을 추출하기 위해 대규모 모델을 세 번 호출합니다(OPENAI_API_KEY 필요). --offline 옵션을 추가하면 API 호출이 없는 구조 분석을 사용합니다. 출력물은 decisions.json, 의사결정 훅이 포함된 SKILL.anys1.md, workflow.py입니다
- anys1 mcp --compiled 출력 디렉토리 --s1-url http://127.0.0.1:8895/decide 명령으로 MCP 서비스로 실행하여 Claude Code, Cursor, OpenHands에 연결합니다. anys1 calibrate 명령은 섀도 실행 로그를 사용하여 임계값을 피팅합니다
리스크
- 비용 절감 폭의 비교 대상은 '컴파일되지 않은' 대규모 모델 에이전트입니다. README의 표에 따르면 스킬을 워크플로우로만 컴파일하는 경우(모든 처리를 여전히 대규모 모델에 위임)에도 이미 56–86%의 비용이 절감됩니다. 소규모 모델로 인한 추가 절감 효과는 이 두 수치 간의 차이를 확인해야 합니다
- 4B 모델을 실행하기 위해 GPU를 직접 준비해야 합니다. 모든 성능 수치는 저자가 보고한 것이며, 본 항목에서는 직접 실행하지 않았습니다