Оригинальное название: TPU 8tx and TPU 8i Max
Google расширяет линейку TPU восьмого поколения: TPU 8tx и TPU 8t используют один и тот же чип в сочетании с хост-платформой на базе AMD EPYC, обеспечивая аппаратную защиту данных и весов моделей во время выполнения для конфиденциальных вычислений в регулируемых отраслях; по заявлению Google, задержка снижена до 50% по сравнению с 8t. TPU 8i Max объединяет два чипа 8i в одном корпусе, удваивая вычислительную мощность, объем SRAM и пропускную способность HBM по сравнению с 8i, что ориентировано на сверхдлинные контексты. Вместе с 8t и 8i, представленными в 4 месяце, это уже четвертая система TPU, выпущенная Google за год; компания сообщает, что у TPU уже почти 100 клиентов.
Почему это важно Google разделяет TPU на четыре категории систем: для обучения, инференса, конфиденциальных вычислений и работы с длинным контекстом, продолжая конкурировать с GPU от Nvidia за клиентов.
Достоверность: Высокая · Источник: Google и еще 2 источников (включая официальные) · Дата события: 11-09 20:59 (по пекинскому времени)
Обоснование
- Опубликовано в официальном блоге Google, есть освещение в The Decoder
Использование
- Даты выхода и цены уточняйте на страницах Google Cloud
Риски
- Все показатели производительности заявлены самой Google