Meta, 기가와트급 슈퍼클러스터 Prometheus 공개, GPU 약 100만 개 규모로 확장 중
- Prometheus의 1단계는 이미 완공돼 Muse 모델 학습에 쓰였고, 전체 규모는 약 100만 개 GPU로 늘어날 예정임
- Muse Wonder 학습에서 사전학습 goodput은 85% 이상, 강화학습은 90% 이상을 기록함, 하드웨어 펌웨어 수정 뒤 MTBI는 약 47k GPU 시간에서 54K GPU 시간 이상으로 늘어남
- GB200 NVL72의 Ariel 변형은 CPU 대 GPU를 1:1로 묶어 GPU당 800G 스케일아웃을 구성함, 기본 구성의 400G 병목을 피하려는 선택임
- 현재 NVIDIA 플랫폼 두 세대를 운용 중이고, 세 번째인 Vera Rubin NVL72가 곧 들어올 예정임
Hacker News 의견들
이거 실적 발표 이틀 전에 올린 거 보면 capex 쪽에 안 좋은 소식이 있는 거 아님? 냄새가 나는데
FCF 마이너스 얘기가 맞음. 클라우드들이 이제 현금으로 하드웨어 못 사고 8% 이자로 빚내야 하는 상황인데, 램이랑 스토리지 가격이 4배에서 10배 오르는 중이라 마진 계산이 빡빡함. 올해 AWS 쪽도 힘들어질 거임
Meta 크롤러 얘기 하나 더 하면, 우리 서버에서 지난주 요청의 90% 가까이가 57.141.0.0/24에서 나왔음. robots.txt는 무시하고 2초마다 요청 날리더라. 403 줘도 안 멈춤
나는 nftables로 57.141.0.0/24 대역 셋 만들어서 80이랑 443 포트 reject 걸어놨음. 근데 그래도 다른 대역으로 옮겨서 또 들어오는 게 제일 짜증남
그거 실수가 아니라 의도 같음. 막아도 우회하는 걸 보면 그냥 설계된 거 아닐까
나는 Meta랑 OpenAI, Anthropic 다 막았는데도 계속 뚫고 들어옴. 결국 Cloudflare 뒤로 숨기는 게 그나마 덜 나쁜 선택이더라
구글은 웹 두들겨 팬다는 불만이 LLM 전이나 후나 별로 없었는데, Meta는 분당 요청 수 보면 답 나옴. 저커버그 성향도 한몫하는 듯
GPU를 하루에 수백만 달러어치씩 갈아끼우는 일이라니. 랙마다 8개 GPU를 핫스페어로 두는 이유가 있음. 고장 나면 핫스페어로 작업 살려두고 사람이 붙을 때까지 버티는 구조임
맞음. 네오클라우드 쪽 사람들 다 이거 하고 있음
이게 R&D 세액공제 신청한 파일럿 모델인지 궁금하더라. 관련 HN 글도 있으니 한번 봐봐
Ariel 변형에서 1:1 비율이 I/O 때문이라면 왜 ConnectX-8 안 썼는지 의문임. 다른 하이퍼스케일러는 같은 시기에 CX-8로 800Gb/s 냈는데. 근데 찾아보니 GB200 NVL72가 CX-8로 출하된 적은 없더라. 내가 잘못 짚었음