애플, Mac을 사설 AI 추론 서버로 바꾸는 'Harbor' 앱 준비 중 (유출)

애플이 결국 이 AI 장의 승자라고 봄. 증류로 모델이 계속 가벼워지고 있고 M7 Max/Ultra에서 결과가 나올 것 같음. 앤트로픽과 오픈AI가 서둘러 IPO해서 개미 손에 물려주려는 이유도 그거고.

그럼 엔비디아 평가는 어떻게 함? 메모리 값 오르고 서비스 매출 위협받고 Mac·iPad는 정체된 걸 보면 애플 앞길이 만만치 않음.

관건은 유용한 모델을 충분히 빠르게 돌릴 만큼 메모리 넣은 기기를 얼마에 내놓느냐임. 지금 최상위가 128GB이고 M7이 1.5TB 메모리를 쓴다는 루머도 있더라.

클라우드는 이미 완전히 상품화됐음. 내 기준엔 클로드 구독 여러 개 사는 게 로컬 모델 전기세보다 싸고, 하드웨어 값까지 넣으면 10년은 지나야 본전임.

qwen3.8 27B 벤치마크 보면 훨씬 큰 모델이랑 비빔. 까마귀 뇌처럼 크기 대비 성능이 이상하게 좋아서 고성능 노트북에서 돌아가는 모델에 희망이 있음.

추론 비용은 언젠가 청구될 거고 오픈소스 모델이 95% 작업엔 충분할 것. R&D 비용은 남들이 다 내고 애플은 보안과 온디바이스로 받아먹으면 됨.

이건 개발자들 망상임. 아이폰에서 로컬 모델 돌린다고 좋아할 사람이 어디 있음.

LLM 추론은 규모의 경제가 커서 로컬이 가격으로 클라우드를 이길 수 없음. 프라이버시 때문에 돈 더 낼 사람은 극소수임.

결국 오픈AI와 앤트로픽은 이름 없는 백엔드가 되고 고객 접점은 애플과 MS가 가져갈 거임.

애플은 로컬이든 아니든 AI에서 내놓은 게 없음. 로컬 LLM은 시간 낭비고 애플은 이 분야 신뢰가 없음.

메모리까지 수직계열화하면 이길 수도 있음. 돈이 없는 회사도 아니고.

AI 붐이 좀 정리될 때까지 새 기기 안 살 거임. 지금은 제조사들이 뭘 만들지 추측하는 중이고 몇 달이면 구식이 됨.

애플은 하드웨어, 생태계, 프라이버시, 브랜드 다 갖췄는데 아직 쓸 만한 AI 앱을 못 냈음. 소프트웨어 VP를 새로 뽑아야 할 듯.

더 큰 문제는 일반 사용자가 AI에 관심이 있느냐임. 지금 봐선 메타, 애플, 오픈AI 다 지고 있음.

DGXOS랑 MacOS 둘 다 로컬 추론에 써봤는데 엔비디아 쪽이 모든 면에서 낫더라. 애플은 툴 생태계 따라가려면 멀었음.

최상위 맥 값에 전기세까지 생각하면 프런티어 모델은 못 돌림. 넷플릭스 값으로 쓰는 클라우드가 있는데 로컬은 계속 틈새일 수밖에 없음.

DRAM 가격이 이 모양인데 뭘 팔아서 이기겠음.