구글, 8세대 TPU에 보안용 8tx와 대용량 컨텍스트 8i Max 추가

헤드라인이 '모든 개발자에게 TPU 개방'인데 정작 개발자인 내가 어떻게 쓰는지에 대한 정보나 링크가 하나도 없음. 전형적인 구글이다.

그냥 27단계짜리 과정이 포털 세 개에 나눠져 있는 것뿐임. 문서는 곧 나온다고 하더라.

TorchTPU 설명과 링크는 글에 있음. 튜토리얼은 'TPU developer hub'로 검색하면 퀵스타트 문서가 나옴.

구글은 왜 이걸 안 팔지?

이제 팔기 시작했음. Anthropic에 팔았고, Oracle도 내년에 클라우드에 TPU 들인다고 발표했더라. 같은 발표에서 Cerebras도 배치한다고 했음.

못 판 이유는 하드웨어와 소프트웨어가 구글 인프라에 강하게 묶여 있어서임. 지금은 제한적이지만 외부 고객한테 팔고 있음.

추론당 비용을 낮추는 경쟁 우위가 되니까 안 팔았던 거지. Nvidia 입장에선 가격 내리라는 압력이 생기겠음.

또 아무도 못 쓴다는 소리 하는데 GCP에서 임대 가능하고 Apple Intelligence랑 Anthropic이 이미 쓰고 있음. Gemini 트래픽도 TPU로 도는 거고.

10년 동안 고객 100곳이면 별로 인상적이지 않은데.

watt/token이나 $/token 수치가 없어서 판단을 못 하겠음. NVDA 대비 가격 비교도 없고.

구매 링크 하나 없는 제품 발표 페이지가 무슨 소용인가 싶고.

그 발표는 니가 타깃이 아니라서 그럼. 항암제 신약 발표에 당장 살 수 있는 링크 없다고 무용하다고 하진 않잖아.

글에 정보가 너무 없어서 다른 기술이랑 비교가 안 됨. 마케팅 발표문이라 타깃 독자한테는 이 정도가 맞고, 기술 세부는 다른 데 찾으면 됨.

agentic era는 이제 지겹다. 'agentic'이라는 말 쓰는 사람은 진지하게 못 보겠음.

스펙 데이터가 하나도 없는데 이거 그냥 보도자료 아님?

TPU를 79번 언급하면서 뭔지는 한 번도 설명 안 함. 8세대 후속 기사에서 매번 풀어 설명하는 게 더 이상하지.

Colab에서 쓸 수 있는 제일 센 게 아직 v6e-1이라 진지한 작업은 무리임. 새 TPU 좀 풀어줬으면.

여기 구글에서 일하는데, 데이터센터에서 Nvidia 경쟁자가 생기면 GPU 시장 압력이 좀 빠지니까 간접 이득은 있음. 임대도 GCP에서 됨.

TPUSync 글도 강추임. Qwen 계열용 Strata 같은 오픈소스 저장소가 대충 이 방식으로 돌아감. Cloud Managed Lustre는 운영이 지옥일 듯.