구글, TPU 8tx 및 TPU 8i Max 두 가지 신규 시스템 출시

구글이 8세대 TPU 제품군을 확장했습니다. TPU 8tx는 TPU 8t와 동일한 칩을 사용하며 AMD EPYC 호스트와 결합되어 하드웨어 수준에서 실행 중인 데이터와 모델 가중치를 보호합니다. 이는 규제 대상 산업의 기밀 추론을 위한 것으로, 구글은 지연 시간이 8t 대비 최대 절반까지 낮아진다고 밝혔습니다. TPU 8i Max는 두 개의 8i 칩을 패키징하여 연산 성능, SRAM 및 HBM 대역폭이 모두 8i의 두 배가 되었으며, 초장기 컨텍스트 처리를 목표로 합니다. 4월에 출시된 8t와 8i를 포함하면, 이는 구글이 1년 내에 출시한 네 번째 TPU 시스템이며, 구글은 TPU 고객이 약 100개에 달한다고 밝혔습니다.

원제: TPU 8tx and TPU 8i Max

구글이 8세대 TPU 제품군을 확장했습니다. TPU 8tx는 TPU 8t와 동일한 칩을 사용하며 AMD EPYC 호스트와 결합되어 하드웨어 수준에서 실행 중인 데이터와 모델 가중치를 보호합니다. 이는 규제 대상 산업의 기밀 추론을 위한 것으로, 구글은 지연 시간이 8t 대비 최대 절반까지 낮아진다고 밝혔습니다. TPU 8i Max는 두 개의 8i 칩을 패키징하여 연산 성능, SRAM 및 HBM 대역폭이 모두 8i의 두 배가 되었으며, 초장기 컨텍스트 처리를 목표로 합니다. 4월에 출시된 8t와 8i를 포함하면, 이는 구글이 1년 내에 출시한 네 번째 TPU 시스템이며, 구글은 TPU 고객이 약 100개에 달한다고 밝혔습니다.

왜 중요한가 구글은 TPU를 학습, 추론, 기밀 컴퓨팅, 장기 컨텍스트의 네 가지 시스템 유형으로 세분화하여 엔비디아 GPU와 고객 확보 경쟁을 계속하고 있습니다.

신뢰도: 높음 · 출처 Google 등 2개(공식 포함) · 이벤트 시간 11-09 20:59(베이징 시간)

근거

  • 구글 공식 블로그 게시, The Decoder 보도 있음

활용

  • 출시 일정 및 가격은 Google Cloud 페이지를 기준으로 함

리스크

  • 성능 수치는 모두 구글 자체 발표임

열기 · The Decoder

Google

최신 AI 소식 보기