Apex-35B-V1.0 (Qwen3.6-35B-A3B 기반의 연구/에이전트 모델)

Apex Intelligence의 첫 번째 모델: Qwen3.6-35B-A3B를 기반으로 자체 데이터와 연구 궤적을 활용해 추가 학습되었으며, 코드 작성, 도구 호출, 심층 검색 및 유체역학, 로봇 시뮬레이션과 같이 '프로그램 작성, 실행, 결과 확인 후 수정'이 필요한 연구 작업을 대상으로 합니다. 각 라운드마다 모델이 스스로 사고 여부와 시간을 결정하며, 수동으로 모드를 전환할 필요가 없습니다. 공식적으로 개발 과정에서 자체 자동 연구 시스템인 Apex Research를 사용하여 학습 데이터를 생성하고, 학습 레시피를 테스트하며, 커널을 최적화했다고 밝혔습니다. 10월 28일 출시되었으며, 최근 7기간 동안에는 등재되지 않았습니다.

Apex Intelligence의 첫 번째 모델: Qwen3.6-35B-A3B를 기반으로 자체 데이터와 연구 궤적을 활용해 추가 학습되었으며, 코드 작성, 도구 호출, 심층 검색 및 유체역학, 로봇 시뮬레이션과 같이 '프로그램 작성, 실행, 결과 확인 후 수정'이 필요한 연구 작업을 대상으로 합니다. 각 라운드마다 모델이 스스로 사고 여부와 시간을 결정하며, 수동으로 모드를 전환할 필요가 없습니다. 공식적으로 개발 과정에서 자체 자동 연구 시스템인 Apex Research를 사용하여 학습 데이터를 생성하고, 학습 레시피를 테스트하며, 커널을 최적화했다고 밝혔습니다. 10월 28일 출시되었으며, 최근 7기간 동안에는 등재되지 않았습니다.

상승 점수 53 · 좋아요 58 · 다운로드 수 1219

이유

  • 공식적으로 베이스 모델인 Qwen3.6-35B-A3B 대비 에이전트 및 연구 항목에서 가장 큰 성능 향상이 있었다고 밝혔습니다: BrowseComp 69.4 (베이스 42.1), AutomationBench 49.3 (10.0), SciCode 주요 문제 62.6 (37.5), FrontierScience 40.0 (21.7), SWE-bench Pro v2 92.4 (72.4), Terminal-Bench 2.1 65.2 (46.1); BFCL V4 84.0는 표에 있는 모든 모델 중 가장 높은 점수를 기록했습니다.
  • 배포 설명이 상세합니다: SGLang, vLLM, TokenSpeed, KTransformers, Transformers, llama.cpp의 실행 명령어가 모두 포함되어 있으며, 드라이버 버전 및 각 프레임워크의 파서 이름 차이와 같은 주의 사항까지 명시되어 있습니다. 공식적으로 프록시 프레임워크로 Claude Code (v2.1.280) 사용을 권장합니다.
  • 양자화 옵션이 다양합니다: 별도로 GGUF 저장소가 있으며, BF16에 28가지 양자화 방식이 추가되었습니다. Q4_K_M은 21.7GB이며, 가장 작은 IQ1_S는 9.0GB입니다.

사용법

  • vLLM ≥ 0.32.0: vllm serve Apexintelligence-AI/Apex-35B-V1.0 --served-model-name Apex-35B-V1.0 --max-model-len 262144 --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder. BF16는 약 72GB이며, 141GB 이상의 단일 GPU에서 전체 컨텍스트를 실행할 수 있습니다. H100 NVL은 2개의 GPU가 필요하며, A100 40GB는 4개의 GPU가 필요합니다.
  • 로컬 실행: Apexintelligence-AI/Apex-35B-V1.0-GGUF의 Q4_K_M을 다운로드한 후, llama-server -m Apex-35B-V1.0-Q4_K_M.gguf --jinja -ngl 99 -c 32768 명령어를 사용합니다. 반드시 --jinja 옵션을 추가하여 내장된 채팅 템플릿을 사용해야 하며, Qwen3.6의 템플릿으로 교체하지 마십시오.
  • 샘플링 파라미터: temperature 1.0, top_p 0.95, top_k 20, max_tokens 65536 (사고 과정 포함); 다중 턴 대화 및 도구 호출 시 assistant 메시지를 원본 그대로 전달하고, chat_template_kwargs에서 preserve_thinking=True로 설정하십시오.

리스크

  • 모든 점수는 공식 자체 테스트 결과이며, RoboRSI, Real2Sim, CFD-Bench는 내부 벤치마크입니다. '재귀적 자기 개선'은 공식적인 표현이며, 카드에는 방법론적 세부 사항이 제공되지 않았고 학습 데이터는 공개되지 않았습니다.
  • 동일한 표에서 훨씬 더 큰 GLM-5.3, GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017가 대부분의 항목에서 여전히 현저히 높은 점수를 기록하고 있습니다. 예를 들어 Terminal-Bench 2.1은 89.9 / 84.3 / 90.6입니다. LiveCodeBench v6 82.3는 베이스 모델의 84.5보다 약간 낮습니다.
  • 텍스트 입력 및 출력만 지원합니다. 신생 회사의 첫 번째 모델로, 향후 유지보수 상황은 불명확합니다.

열기

Hugging Face Trending

최신 AI 소식 보기