Apple, M5 Ultra 맥 스튜디오에 통합 메모리 512GB와 TB5 클러스터 지원

유럽에서 M5 Ultra 64코어 GPU, 96GB RAM 구성이 6,649유로까지 올라감. 너무 비쌈.

미국 가격에는 보통 부가세가 빠져 있고 유럽 가격에는 포함돼 있어서 단순 비교는 어려움.

1TB RAM 옵션이 없는 게 이상함. AI 때문에 돈을 과감히 쓰는 사람이 많은데도 말임.

메모리 공급 제약 때문일 수 있음. M3 Ultra의 고용량 옵션도 사라졌고, 128GB 맥북 프로도 배송까지 6주 이상 걸리더라.

512GB 통합 메모리 옵션은 10월에 나온다고 함. 256GB 업그레이드만 \$4,000이니 512GB 구성은 총 \\$20,000쯤 될 듯.

512GB 통합 메모리는 로컬 LLM 실행에 꽤 좋을 듯. 통합 메모리는 RAM과 VRAM을 하나로 쓰는 구조라는 뜻인가?

M6 기본형의 170GB/s 대역폭은 로컬 LLM용으로는 느린 편임. 맥 스튜디오는 최대 1.2TB/s라서 그쪽을 봐야 함.

Strix Halo도 256GB/s인데 M5 Max는 614GB/s임. 제품군 구분을 의도적으로 강하게 한 느낌임.

도킹한 맥북 프로 대신 다음 컴퓨터를 맥 스튜디오로 할지 고민 중임. 가끔 원격 접속만 하면 되는 경우라면 Studio와 Neo 조합이 나을 수도 있겠음.

2년 전에 그 이유로 스튜디오를 샀는데 만족함. 99%는 휴대성이 필요 없고, 여행 때만 작업을 잠시 미루면 됨.

M3 Max 맥북 프로는 로컬 LLM을 오래 돌리면 과열되고 시끄러웠음. M4 Max 맥 스튜디오는 Gemma 3/4와 gpt-oss 120b를 하루 종일 돌려도 발열과 팬 소음 문제가 없었음.

256GB 메모리 구성은 \$10,000이고 512GB면 거의 두 배일 듯함. 1조 파라미터 이상 모델을 미래까지 보장하진 못하지만, 작은 모델이나 파이프라인 병렬화 클러스터에는 쓸 만함.

썬더볼트 5 포트가 3개라 4대 맥 스튜디오를 완전 연결 토폴로지로 묶을 수 있음.

NVIDIA RTX 6000은 96GB, 1.7TB/s에 \$13,000임. 256GB, 1.2TB/s 맥은 가격 경쟁력이 있어서 품절될 것 같음.

1TB면 4비트 양자화한 1조 파라미터 이상 모델을 안정적으로 돌릴 수 있는데 512GB는 애매함. 512GB M5 Ultra 가격은 정당화하기 어렵지만 1TB라면 생각해볼 텐데 아쉬움.

M6 기본 칩도 RAM 상한이 32GB로 나왔음. Ultra가 기본 칩 16개를 묶는 구조라면 32GB 곱하기 16으로 당분간 Ultra 최대치가 512GB일 가능성이 큼.