Mac Studio 4대 클러스터로 8,160억 파라미터 모델을 초당 36토큰 이상 구동함

좋은 건 알겠는데 2026년 기준으로는 솔직히 학술적임. 256GB 모델도 9,499달러부터 시작이라 4대 묶으면 장난 아님.

보도자료인 줄 알았는데 Meta 얘기는 코드 레퍼런스 말고 거의 없더라. 웃기긴 함.

그래도 Apple이 Meta 모델을 전면에 내세우는 건 브랜드랑 안 맞아서 좀 이상함. 욕먹을 만함.

이건 보도자료가 아니고 Apple 기술 광고에 가까움. 제목에도 Muse가 안 나옴.

Qwen은 BF16 native로 두고 Muse만 4비트로 돌리는 건 좀 불공정함. 512GB M5 있어도 이 모델은 상위 10개 안에도 못 들겠음.

Meta가 오픈 웨이트 모델에 수십억 달러 쓰고, 사람들은 Apple한테 2만 달러씩 내고 그걸 돌리는 구조네. Apple 입장에선 장사 잘 되는 구조임.

Apple은 모델 학습 안 하고 삽만 파는 셈임. 프라이버시 가치가 큰 곳은 2만에서 8만 달러짜리 장비도 합리적인 투자라고 봄.

RTX 5080 16GB 카드로 같은 모델 돌리려면 몇 장이 필요하고 비용이 얼마나 드는지 계산해보고 싶음.

Apple이 나중에 Meta 모델 쓰려면 공짜는 아닐 듯함.

로컬 LLM 시장이 그렇게 큰지 모르겠음. 2만 달러짜리 기기를 Apple이 그만큼 팔 수 있을지 의문임.

가격만 빼면 방향은 좋음. 언젠가 일반 하드웨어로 이런 모델 돌리는 날이 온다는 게 기대됨.

800B짜리가 300B급보다 성능이 낮다니 좀 의외임.

근데 성능은 뭘로 판단한 거임?

256GB 하나 살 돈이면 512GB 두 대를 사는 게 낫지 않음? 로컬 LLM 쓰면 모델 크기 감각이 확 생김. 차 한 대 값 차이 남.

FWIW로 말하면 M5 Ultra 256GB 한 대로 DeepSeek 4.1 Flash 돌리면 프리필 3200 토큰/초, 생성 45 토큰/초 정도 나옴. MathArena나 GPQA Diamond로 품질도 공식 수치랑 맞는지 확인해봤음.