Google представила две новые системы: TPU 8tx и TPU 8i Max

Google расширяет линейку TPU восьмого поколения: TPU 8tx и TPU 8t используют один и тот же чип в сочетании с хост-платформой на базе AMD EPYC, обеспечивая аппаратную защиту данных и весов моделей во время выполнения для конфиденциальных вычислений в регулируемых отраслях; по заявлению Google, задержка снижена до 50% по сравнению с 8t. TPU 8i Max объединяет два чипа 8i в одном корпусе, удваивая вычислительную мощность, объем SRAM и пропускную способность HBM по сравнению с 8i, что ориентировано на сверхдлинные контексты. Вместе с 8t и 8i, представленными в 4 месяце, это уже четвертая система TPU, выпущенная Google за год; компания сообщает, что у TPU уже почти 100 клиентов.

Оригинальное название: TPU 8tx and TPU 8i Max

Google расширяет линейку TPU восьмого поколения: TPU 8tx и TPU 8t используют один и тот же чип в сочетании с хост-платформой на базе AMD EPYC, обеспечивая аппаратную защиту данных и весов моделей во время выполнения для конфиденциальных вычислений в регулируемых отраслях; по заявлению Google, задержка снижена до 50% по сравнению с 8t. TPU 8i Max объединяет два чипа 8i в одном корпусе, удваивая вычислительную мощность, объем SRAM и пропускную способность HBM по сравнению с 8i, что ориентировано на сверхдлинные контексты. Вместе с 8t и 8i, представленными в 4 месяце, это уже четвертая система TPU, выпущенная Google за год; компания сообщает, что у TPU уже почти 100 клиентов.

Почему это важно Google разделяет TPU на четыре категории систем: для обучения, инференса, конфиденциальных вычислений и работы с длинным контекстом, продолжая конкурировать с GPU от Nvidia за клиентов.

Достоверность: Высокая · Источник: Google и еще 2 источников (включая официальные) · Дата события: 11-09 20:59 (по пекинскому времени)

Обоснование

  • Опубликовано в официальном блоге Google, есть освещение в The Decoder

Использование

  • Даты выхода и цены уточняйте на страницах Google Cloud

Риски

  • Все показатели производительности заявлены самой Google

Открыть · The Decoder

Google

Открыть последние новости ИИ