원제: Hugging Face and OpenRouter join forces to make open-weight models easy to run
Hugging Face가 OpenRouter와의 협업을 발표했습니다. 오늘부터 Inference Providers의 언어 모델 요청은 자체 라우팅을 거치지 않고, OpenRouter가 실시간 가격, 속도 및 안정성을 기준으로 서비스 제공자를 선택합니다. 실패 시 동일한 호출 내에서 다음 제공자로 전환하여 재시도합니다. OpenAI Chat Completions, Responses 및 Anthropic Messages 인터페이스를 지원하므로 기존 코드를 수정할 필요가 없습니다. 비용은 서비스 제공자의 원가로 Hugging Face 청구서에 기록되며 추가 마진은 없습니다. 모델 페이지에 서비스 제공자 및 지표 두 개의 탭이 추가되었으며, 설정에서 원치 않는 서비스 제공자를 차단할 수 있습니다. 이미지, 비디오, 오디오 생성은 여전히 OpenRouter를 거치지 않고 직접 Hugging Face를 통해 처리됩니다.
왜 중요한가 하나의 HF 토큰으로 여러 호스팅 오픈소스 모델을 호출할 수 있으며, 실패 시 자동으로 서비스 제공자를 전환합니다. 단, 언어 모델의 경우 자체 서비스 제공자 키를 사용할 수 없다는 점이 대가입니다.
신뢰도: 높음 · 출처 Hugging Face(공식 포함) · 이벤트 발생 시간 11-16 08:00(베이징 시간)
이유
- Hugging Face 공식 블로그 게시
사용법
- 기존 Hugging Face 토큰을 사용하여 호출; 특정 서비스 제공자를 고정하려면 모델 ID 뒤에 접미사를 추가
리스크
- 언어 모델은 더 이상 자체 서비스 제공자 API 키를 사용할 수 없음(이미지, 비디오 서비스 제공자의 사용자 지정 키는 계속 사용 가능)