Apex-35B: 연구 및 에이전트 작업을 위한 Qwen 미세 조정

신생 기관 Apex Intelligence의 첫 번째 모델로, Qwen3.6-35B-A3B(총 파라미터 35B, 토큰당 활성 파라미터 약 3B)를 기반으로 자체 데이터와 연구 궤적을 통해 추가 학습되었습니다. 공식적으로는 Claude Code(v2.1.280) 내에서 사용하는 것을 권장합니다. 일상적인 프로그래밍, 질의응답, 검색 및 에이전트 작업은 물론, 유체 역학 및 로봇 시뮬레이션에서 계산을 계획하고 프로그램을 작성하여 실행하며 결과에 따라 방법을 개선하는 연구 워크플로우를 지원합니다. 각 라운드마다 사고 여부를 스스로 결정하고 사고 시간을 조절합니다. 공식적으로 개발 과정에서 자체 자동 연구 시스템인 Apex Research를 활용하여 취약 부분의 학습 데이터를 생성하고, 학습 레시피를 조정하며, GPU 커널 및 추론을 최적화했다고 밝혔습니다. 컨텍스트 길이는 262,144 토큰(입력 및 출력 공유)입니다.

원제: Apexintelligence-AI/Apex-35B-V1.0

신생 기관 Apex Intelligence의 첫 번째 모델로, Qwen3.6-35B-A3B(총 파라미터 35B, 토큰당 활성 파라미터 약 3B)를 기반으로 자체 데이터와 연구 궤적을 통해 추가 학습되었습니다. 공식적으로는 Claude Code(v2.1.280) 내에서 사용하는 것을 권장합니다. 일상적인 프로그래밍, 질의응답, 검색 및 에이전트 작업은 물론, 유체 역학 및 로봇 시뮬레이션에서 계산을 계획하고 프로그램을 작성하여 실행하며 결과에 따라 방법을 개선하는 연구 워크플로우를 지원합니다. 각 라운드마다 사고 여부를 스스로 결정하고 사고 시간을 조절합니다. 공식적으로 개발 과정에서 자체 자동 연구 시스템인 Apex Research를 활용하여 취약 부분의 학습 데이터를 생성하고, 학습 레시피를 조정하며, GPU 커널 및 추론을 최적화했다고 밝혔습니다. 컨텍스트 길이는 262,144 토큰(입력 및 출력 공유)입니다.

중요성 동일 크기의 오픈소스 모델 중 '프로그램 작성 후 실험 수행 및 방안 수정'에 특화된 연구 워크플로우를 지원하는 경우는 드뭅니다. 단어당 활성 파라미터가 약 30억 개이며, 양자화 버전을 통해 로컬 배포가 가능합니다.

상승 점수 26 · 좋아요 103 · 다운로드 수 2566

이유

  • 공식 표에서 기반 모델인 Qwen3.6-35B-A3B와 비교 시: SciCode 주요 문제 62.6 대 37.5, BrowseComp 69.4 대 42.1, BFCL V4 84.0 대 75.2, HLE 47.2 대 36.2; LiveCodeBench v6는 82.3로 기반 모델의 84.5보다 약간 낮음
  • 동일 표에서 GLM5.3, DeepSeek V4.1 Flash 등 훨씬 더 큰 모델들이 대부분의 항목에서 더 높은 점수를 기록했으나, 이 모델은 동일 크기 내에서 연구 및 에이전트 전문성을 강조하는 포지셔닝을 가짐
  • GGUF 버전은 BF16 및 28가지 양자화 방식을 제공하며, 가장 작은 IQ1_S는 약 9.0 GB

사용법

  • hf download Apexintelligence-AI/Apex-35B-V1.0 --local-dir Apex-35B-V1.0 (BF16 약 72 GB); 양자화 버전은 Apexintelligence-AI/Apex-35B-V1.0-GGUF 참조
  • SGLang ≥0.5.22 또는 vLLM ≥0.32.0를 사용하여 OpenAI 호환 인터페이스를 실행하며, 추론 및 도구 호출 파서에는 qwen3 / qwen3_coder를 사용하고 MTP 투기적 디코딩을 활성화할 수 있음
  • 반드시 저장소에 포함된 chat_template.jinja를 사용해야 하며, Qwen3.6의 템플릿으로 교체하지 말 것; llama.cpp 사용 시 --jinja 옵션을 추가해야 함

리스크

  • 학습 데이터는 자체 데이터이며, 카드에 규모와 출처가 명시되지 않음; '재귀적 자기 개선'은 공식적인 설명일 뿐이며, RoboRSI, Real2Sim, CFD-Bench 세 항목은 내부 벤치마크로 검증이 불가능함
  • 모든 점수는 공식 자체 테스트 결과임; 전체 컨텍스트의 BF16는 단일 GPU 또는 다중 GPU 텐서 병렬 처리 시 141GB 이상의 메모리가 필요하며, 구형 드라이버(570) 환경에서는 SGLang 및 Transformers 실행에 문제가 발생할 수 있음. 본 항목은 실행되지 않음

열기

Hugging Face Trending

최신 AI 소식 보기