Kimi K3.1 Pro(문샷 AI 2.8T 오픈 웨이트 멀티모달 에이전트 모델)

문샷 AI가 11월 2일 오픈 웨이트로 공개한 Kimi K3.1 Pro: Kimi K3를 기반으로 대규모 통합 강화 학습 후처리(post-training)를 수행한 K3.1 시리즈의 첫 번째 모델입니다. MoE 구조로 총 파라미터는 2.8T이며, 토큰당 활성화 파라미터는 104B입니다. 텍스트 및 이미지 입력을 네이티브로 지원하며(MoonViT-V2 비전 인코더 사용), 컨텍스트 길이는 1,048,576 토큰입니다. 가중치는 양자화 인식 학습(Quantization-Aware Training)을 통해 MXFP4 형식으로 변환되었으며(활성화는 MXFP8), K3와 비교하여 전체 주의력(Full Attention)의 Gated MLA 레이어를 Gated DSA(DeepSeek Sparse Attention)로 교체하여 긴 컨텍스트 처리 시 효율성이 향상되었습니다. 공식적으로 프로그래밍, 3D 콘텐츠 생성, 금융 연구, 사실 정확성 및 에이전트 능력이 모두 현저히 향상되었다고 밝혔습니다. 최근 7 기간에는 등재되지 않았습니다.

문샷 AI가 11월 2일 오픈 웨이트로 공개한 Kimi K3.1 Pro: Kimi K3를 기반으로 대규모 통합 강화 학습 후처리(post-training)를 수행한 K3.1 시리즈의 첫 번째 모델입니다. MoE 구조로 총 파라미터는 2.8T이며, 토큰당 활성화 파라미터는 104B입니다. 텍스트 및 이미지 입력을 네이티브로 지원하며(MoonViT-V2 비전 인코더 사용), 컨텍스트 길이는 1,048,576 토큰입니다. 가중치는 양자화 인식 학습(Quantization-Aware Training)을 통해 MXFP4 형식으로 변환되었으며(활성화는 MXFP8), K3와 비교하여 전체 주의력(Full Attention)의 Gated MLA 레이어를 Gated DSA(DeepSeek Sparse Attention)로 교체하여 긴 컨텍스트 처리 시 효율성이 향상되었습니다. 공식적으로 프로그래밍, 3D 콘텐츠 생성, 금융 연구, 사실 정확성 및 에이전트 능력이 모두 현저히 향상되었다고 밝혔습니다. 최근 7 기간에는 등재되지 않았습니다.

상승 점수 499 · 좋아요 510 · 다운로드 수 797

이유

  • 공식 성적(추론 강도 max 기준)에서 상위권을 차지한 항목들은 대부분 장기 프로그래밍 및 에이전트 관련 항목입니다. SWE Marathon v1.1 51.7, 도구 사용 포함 HLE-Full 70.0, Agents' Last Exam 43.2, OfficeQA Pro v2 64.4 모두 표에서 가장 높은 점수를 기록했습니다. Terminal-Bench 4.0 65.7, OSWorld V2.1 79.6은 표의 Claude Opus 5.5 점수인 66.4 / 81.8에 근접했으며, BrowseComp은 92.1입니다.
  • 공식적으로 환각(Hallucination)이 감소했다고 주장합니다. 내부 벤치마크인 Kimi Hallu Bench Hard(도구 사용 포함, 낮을수록 좋음)에서 8.3점을 기록했으며, 표에서는 GPT-6 Astra(5.5)만이 더 낮은 점수를 보였고, DeepSeek-V4.1-Flash-1017는 23.3점입니다.
  • 구조 및 평가 설정이 상세하게 공개되었습니다: 93개 레이어(69개 KDA 레이어 + 24개 Gated DSA 레이어), 토큰당 16개 선택되는 896개 전문가 및 2개 공유 전문가, 어휘 크기 160K; 각 평가에 사용된 에이전트 프레임워크(대부분 Claude Code 또는 Kimi Code)와 비교 점수의 출처가 각주에 명시되어 있습니다.

사용법

  • 자체 호스팅 미사용: platform.kimi.ai에서 kimi-k3.1-pro를 선택하면 되며, 공식적으로 OpenAI / Anthropic 호환 인터페이스를 제공합니다.
  • 자체 호스팅: 공식적으로 vLLM, SGLang, TokenSpeed를 권장하며, 각 배포 레시피 링크가 카드에 포함되어 있습니다(예: recipes.vllm.ai/moonshotai/Kimi-K3.1-Pro). 저장소에는 커스텀 코드(configuration_kimi_k3.py, kimi_k3_processor.py 등)가 포함되어 있습니다.
  • 추론 강도는 요청 최상위 수준의 reasoning_effort 매개변수를 통해 low / high / max(기본값 max)로 설정합니다. 멀티턴 및 도구 호출 시 API가 반환한 assistant 메시지 전체(reasoning_content 및 tool_calls 포함)를 messages에 원본 그대로 다시 넣어야 합니다. 공식 평가에서는 temperature 1.0, top_p 0.95을 사용했습니다.

리스크

  • 모든 성적은 공식 자체 평가이며, 그중 9개 항목은 내부 벤치마크(Kimi Code Bench, Business Operation, PerceptionBench, Kimi Hallu Bench 등)입니다. 폐쇄형 모델의 점수에는 후퇴(regression)가 포함될 수 있습니다. 또한 현저히 뒤처진 항목들도 있습니다: Program Bench 31.5(Claude Opus 5.5는 65.0), Terminal-Bench-Science 0.1 38.1(GPT-6 Astra 68.1), HLE-Diamond 39.4(GPT-6 Astra 65.8).
  • 규모가 매우 큽니다: 카드에 하드웨어 요구 사항이 명시되지 않았으나, 총 파라미터 2.8T는 MXFP4 형식이라도 다중 GPU 서버 클러스터에서만 실행 가능하므로 개인 사용자는 기본적으로 API만 사용할 수 있습니다. 텍스트 및 이미지 입력만 지원합니다.
  • 라이선스는 수정된 MIT 라이선스(Kimi K3.1 Pro License)입니다: 모델 서비스(MaaS)를 운영하면서 관련사를 포함하여 12개월간 매출이 2,000만 달러를 초과하는 경우, 상업적 사용 전 문샷 AI와 별도 계약을 체결해야 합니다. 제품 월간 활성 사용자(MAU)가 1억을 초과하거나 월간 매출이 2,000만 달러를 초과하는 경우, 인터페이스에 Kimi K3.1-Pro를 눈에 띄게 표기해야 합니다. 내부 사용은 이 두 가지 제한 사항의 적용을 받지 않습니다.

열기

Hugging Face Trending

최신 AI 소식 보기