애플, 2nm M6와 쿼드 다이 M5 Ultra 공개: 최대 512GB 통합 메모리와 1.2TB/s 대역폭

애플은 AI 경쟁에 뒤늦게 낄 필요가 없었음. 자체 칩과 통합 메모리를 오래 준비해서 이미 100B 파라미터 이상 모델을 로컬에서 돌릴 기반이 있었음.

AI 업계에서 일하는데, 애플이 소프트웨어보다 하드웨어에 집중한 건 흥미로움. 앞으로는 맥에서 업무용 로컬 모델을 돌리는 쪽이 커질 듯하고, 애플 칩에 맞춘 자체 LLM도 나올 수 있다고 봄.

리눅스를 돌리면서 더 싸고 수리하기 쉬운 대안이 있는지 궁금함. 이건 엔비디아 기반도 아니고 전부 애플 커스텀 칩이니 Asahi에서 쓸 수 있는지도 알고 싶음.

애플이 모델 경쟁에서 밀렸다는 말이 많았지만, 원래 모델 회사가 될 필요는 없었다고 봄. Qwen 2.8 27B 같은 소형 모델도 소비자 용도로는 충분히 쓸 만해서 하드웨어 우위가 더 중요해질 수 있음.

애플은 Apple Intelligence로 일찍 참여했다가 크게 실패했음. 그 뒤에 더 밀어붙이지 않고 다른 회사들이 먼저 시행착오를 겪게 둔 건 괜찮은 판단 같음.

하드웨어만 말할 게 아니라 로컬 모델용 소프트웨어에도 더 집중했으면 함.

이미 Ollama, llama.cpp, LM Studio, Lemonade, vLLM 같은 선택지가 많은데 애플이 여기에 뭘 더할 수 있을지는 모르겠음.

애플은 원래부터 휴대폰 회사가 아니라 하드웨어 회사였음.

애플에는 MLX가 있고, 로컬 모델 실행 소프트웨어 대부분이 이를 지원함. Thunderbolt 연결 장비를 묶는 RDMA도 있음.

온디바이스 모델에 집중하지 않는다는 말은 납득이 안 감. Siri AI에 2년 넘게 투자했고 대부분 로컬 실행을 목표로 했음.

512GB 메모리는 쓸 수는 있어도 가격이 감당 가능한 수준은 아님.

영국에서 96GB를 256GB로 올리는 비용이 £4,000, 미국은 \$4,000임. 미국 가격은 GB당 약 \\$25고 512GB 옵션은 10월에 나온다고 함.

80코어 GPU와 256GB 구성은 약 \$12,000, 512GB는 10월에 약 \\$14,000쯤이면 온프레미스 추론 서버로 쓸 만해 보임.

M5 Ultra, 256GB RAM, 16TB 저장장치로 최대로 맞춘 Mac Studio는 \$18,299임. 96GB에서 256GB 업그레이드가 \\$4,000이니 512GB는 엄청 비쌀 것이고, 저장장치까지 최대 구성하면 약 \$24,699로 봄.

512GB Ultra가 대단한 건 알겠는데 실제 구매자가 누군지 모르겠음. VC 돈 쓰는 창업자나 아주 부유한 취미 사용자 말고 수요가 얼마나 될까.

집에서 개인 에이전트를 계속 돌리고 의료 정보나 구매 기록 같은 민감한 데이터를 상업 서비스에 맡기지 않으려는 사람에게는 값어치가 있음. 우리도 웹에서 지역 행사를 수집하고 취향에 맞춰 주말마다 알려주는 용도로 씀.

RDMA로 최대 4대를 연결해 총 2TB RAM을 쓸 수 있음. 엔비디아 AI 장비보다 싸다고 봄.

기밀 정보가 유출될 가능성만으로도 어떤 조직은 이 가격을 정당화함.

이런 최고급 애플 장비는 실제 중고 시장에서 거의 보기 어렵고, 실제 구매자는 많지 않다고 봄. 여기처럼 소득 수준이 높은 커뮤니티의 관심을 일반 수요로 보면 안 됨.