Google lance deux nouveaux systèmes : TPU 8tx et TPU 8i Max

Google élargit la huitième génération de TPU : le TPU 8tx et le TPU 8t utilisent la même puce, associée à des hôtes AMD EPYC, pour protéger les données et les poids des modèles en cours d'exécution au niveau matériel, destiné à l'inférence confidentielle pour les secteurs réglementés ; Google affirme que la latence est jusqu'à deux fois inférieure à celle du 8t. Le TPU 8i Max encapsule deux puces 8i ensemble, offrant une puissance de calcul, une mémoire SRAM et une bande passante HBM doublées par rapport au 8i, conçu pour les contextes ultra-longs. Avec le 8t et le 8i lancés en 4, il s'agit du quatrième système TPU lancé par Google en un an, et Google indique que les TPU comptent désormais près de 100 clients.

Titre original : TPU 8tx and TPU 8i Max

Google élargit la huitième génération de TPU : le TPU 8tx et le TPU 8t utilisent la même puce, associée à des hôtes AMD EPYC, pour protéger les données et les poids des modèles en cours d'exécution au niveau matériel, destiné à l'inférence confidentielle pour les secteurs réglementés ; Google affirme que la latence est jusqu'à deux fois inférieure à celle du 8t. Le TPU 8i Max encapsule deux puces 8i ensemble, offrant une puissance de calcul, une mémoire SRAM et une bande passante HBM doublées par rapport au 8i, conçu pour les contextes ultra-longs. Avec le 8t et le 8i lancés en 4, il s'agit du quatrième système TPU lancé par Google en un an, et Google indique que les TPU comptent désormais près de 100 clients.

Pourquoi c'est important Google décline les TPU en quatre types de systèmes (entraînement, inférence, calcul confidentiel, contexte long), continuant à concurrencer les GPU de Nvidia pour les clients.

Fiabilité : Élevée · Sources : Google et 2 autres (y compris officielles) · Date de l'événement : 11-09 20:59 (heure de Pékin)

Raisons

  • Publication sur le blog officiel de Google, avec un article de The Decoder

Utilisation

  • Les dates de disponibilité et les prix sont à vérifier sur la page Google Cloud

Risques

  • Les chiffres de performance sont tous auto-déclarés par Google

Ouvrir · The Decoder

Google

Parcourir les dernières actualités IA