Hugging Face chuyển dịch vụ suy luận sang định tuyến qua OpenRouter

Hugging Face công bố hợp tác với OpenRouter: Kể từ hôm nay, các yêu cầu mô hình ngôn ngữ của Inference Providers không còn đi qua hệ thống định tuyến nội bộ, mà được OpenRouter lựa chọn nhà cung cấp dựa trên giá cả, tốc độ và độ ổn định theo thời gian thực; khi gặp lỗi, hệ thống sẽ tự động thử lại với nhà cung cấp tiếp theo trong cùng một lần gọi; hỗ trợ các giao diện OpenAI Chat Completions, Responses và Anthropic Messages, mã nguồn hiện tại không cần thay đổi. Chi phí được ghi vào hóa đơn Hugging Face theo đúng giá gốc của nhà cung cấp, không tăng thêm; trang mô hình bổ sung hai tab mới là Nhà cung cấp và Chỉ số, cho phép chặn các nhà cung cấp không mong muốn trong phần cài đặt. Việc tạo hình ảnh, video và âm thanh vẫn được xử lý trực tiếp qua Hugging Face, không thông qua OpenRouter.

Tiêu đề gốc: Hugging Face và OpenRouter hợp tác để giúp việc chạy các mô hình mã nguồn mở trở nên dễ dàng

Hugging Face công bố hợp tác với OpenRouter: Kể từ hôm nay, các yêu cầu mô hình ngôn ngữ của Inference Providers không còn đi qua hệ thống định tuyến nội bộ, mà được OpenRouter lựa chọn nhà cung cấp dựa trên giá cả, tốc độ và độ ổn định theo thời gian thực; khi gặp lỗi, hệ thống sẽ tự động thử lại với nhà cung cấp tiếp theo trong cùng một lần gọi; hỗ trợ các giao diện OpenAI Chat Completions, Responses và Anthropic Messages, mã nguồn hiện tại không cần thay đổi. Chi phí được ghi vào hóa đơn Hugging Face theo đúng giá gốc của nhà cung cấp, không tăng thêm; trang mô hình bổ sung hai tab mới là Nhà cung cấp và Chỉ số, cho phép chặn các nhà cung cấp không mong muốn trong phần cài đặt. Việc tạo hình ảnh, video và âm thanh vẫn được xử lý trực tiếp qua Hugging Face, không thông qua OpenRouter.

Tại sao quan trọng Chỉ cần một token HF là có thể gọi nhiều mô hình mã nguồn mở được lưu trữ bởi các nhà cung cấp khác nhau, tự động chuyển nhà cung cấp khi gặp lỗi; đổi lại, các mô hình ngôn ngữ không còn được phép sử dụng khóa API của nhà cung cấp riêng.

Độ tin cậy: Cao · Nguồn Hugging Face (bao gồm kênh chính thức) · Thời gian sự kiện 11-16 08:00 (giờ Bắc Kinh)

Lý do

  • Được công bố trên blog chính thức của Hugging Face

Cách sử dụng

  • Gọi bằng token Hugging Face hiện có; nếu muốn cố định nhà cung cấp, có thể thêm hậu tố vào sau ID mô hình

Rủi ro

  • Các mô hình ngôn ngữ không còn được sử dụng khóa API của nhà cung cấp riêng (khóa API tùy chỉnh cho các nhà cung cấp hình ảnh và video vẫn còn khả dụng)

Mở

Hugging Face

Xem tin AI mới nhất