Google ra mắt hai hệ thống mới: TPU 8tx và TPU 8i Max

Google mở rộng dòng TPU thế hệ thứ 8: TPU 8tx và TPU 8t sử dụng cùng một loại chip, kết hợp với máy chủ AMD EPYC, bảo vệ dữ liệu và trọng số mô hình đang chạy ở tầng phần cứng, hướng tới suy luận bảo mật cho các ngành chịu sự quản lý chặt chẽ, Google cho biết độ trễ thấp hơn tối đa một nửa so với 8t; TPU 8i Max đóng gói hai chip 8i lại với nhau, với sức mạnh tính toán, SRAM và băng thông HBM đều gấp đôi so với 8i, hướng tới ngữ cảnh cực dài. Cùng với 8t và 8i ra mắt vào tháng 4, đây là hệ thống TPU thứ tư mà Google ra mắt trong vòng một năm, Google cho biết TPU đã có gần 100 khách hàng.

Tiêu đề gốc: TPU 8tx và TPU 8i Max

Google mở rộng dòng TPU thế hệ thứ 8: TPU 8tx và TPU 8t sử dụng cùng một loại chip, kết hợp với máy chủ AMD EPYC, bảo vệ dữ liệu và trọng số mô hình đang chạy ở tầng phần cứng, hướng tới suy luận bảo mật cho các ngành chịu sự quản lý chặt chẽ, Google cho biết độ trễ thấp hơn tối đa một nửa so với 8t; TPU 8i Max đóng gói hai chip 8i lại với nhau, với sức mạnh tính toán, SRAM và băng thông HBM đều gấp đôi so với 8i, hướng tới ngữ cảnh cực dài. Cùng với 8t và 8i ra mắt vào tháng 4, đây là hệ thống TPU thứ tư mà Google ra mắt trong vòng một năm, Google cho biết TPU đã có gần 100 khách hàng.

Tại sao quan trọng Google chia TPU thành bốn loại hệ thống: huấn luyện, suy luận, tính toán bảo mật và ngữ cảnh dài, tiếp tục cạnh tranh khách hàng với GPU của Nvidia.

Độ tin cậy: Cao · Nguồn từ Google và 2 nguồn khác (bao gồm nguồn chính thức) · Thời gian sự kiện 11-09 20:59 (giờ Bắc Kinh)

Lý do

  • Được công bố trên blog chính thức của Google, The Decoder có đưa tin

Cách sử dụng

  • Thời điểm ra mắt và giá cả được xác định theo trang Google Cloud

Rủi ro

  • Các con số hiệu năng đều do Google tự công bố

Mở · The Decoder

Google

Xem tin AI mới nhất