Theo IT之家, AMD 11 tháng 9 đã hợp tác với Spectro Cloud để ra mắt nền tảng lập trình hỗ trợ bởi AI cấp doanh nghiệp Instinct Coder 355, hỗ trợ triển khai suy luận cho mô hình Zhipu GLM-5.3, tuyên bố có thể đạt hiệu suất của các mô hình tiên tiến 98% khi chạy cục bộ. Phần lõi của hệ thống gồm 8 thẻ tăng tốc Instinct MI355X, đi kèm 2 bộ CPU EPYC 9575F với 64 lõi và 3TB bộ nhớ, có hai phiên bản từ Dell và Supermicro; mỗi nút phục vụ tối đa 85 nhà phát triển (đồng thời 50 nhà phát triển). Phần mềm quản lý đi kèm của Spectro Cloud, PaletteAI Inference Launchpad, mặc định sử dụng tài nguyên tính toán cục bộ thay vì API đám mây.
Tại sao quan trọng Các nhà sản xuất phần cứng nước ngoài sử dụng các mô hình mã nguồn mở của Trung Quốc làm mô hình suy luận cho giải pháp lập trình cục bộ, mặc định sử dụng tài nguyên tính toán cục bộ thay vì API đám mây.
Độ tin cậy: Khá đáng tin cậy · Nguồn IT之家 · Thời gian sự kiện 11-09 (giờ Bắc Kinh)
Lý do
- IT之家 đưa tin, cung cấp cấu hình phần cứng và số lượng người dùng phục vụ
Cách sử dụng
- Dành cho mua sắm doanh nghiệp, có hai phiên bản từ Dell và Supermicro
Rủi ro
- “Hiệu suất của mô hình tiên tiến 98%” là tuyên bố từ AMD, không nêu rõ mô hình so sánh và phương pháp kiểm thử
- Giá bán chưa được công bố