Selon IT Home, AMD a lancé le 9 11 avec Spectro Cloud la plateforme d'assistance au codage IA de niveau entreprise Instinct Coder 355, qui prend en charge le déploiement de l'inférence du modèle Zhipu GLM-5.3. Elle affirme pouvoir atteindre les performances des modèles de pointe 98% en local. Le cœur du système est constitué de 8 cartes accélératrices Instinct MI355X, accompagnées de 2 processeurs EPYC 9575F à 64 cœurs et de 3 To de mémoire ; deux versions sont disponibles, l'une avec Dell et l'autre avec Supermicro. Chaque nœud peut servir jusqu'à 85 développeurs (avec une concurrence maximale de 50). Le logiciel de gestion PaletteAI Inference Launchpad fourni par Spectro Cloud utilise par défaut la puissance de calcul locale plutôt que les API cloud.
Pourquoi c'est important Les fabricants de matériel étrangers adoptent des modèles open source nationaux comme moteur d'inférence pour les solutions locales de codage, en utilisant par défaut la puissance de calcul locale plutôt que les API cloud.
Fiabilité : Assez fiable · Source IT Home · Date de l'événement 11-09 (heure de Pékin)
Raison
- Couvert par IT Home, avec des détails sur la configuration matérielle et le nombre d'utilisateurs servis
Utilisation
- Destiné aux achats d'entreprise, disponible en deux versions : Dell et Supermicro
Risques
- L'affirmation « performances des modèles de pointe 98% » provient d'AMD ; les modèles comparés et les méthodes de test ne sont pas précisés
- Le prix n'a pas été annoncé