애플, Swift API 하나로 온디바이스 모델부터 Claude·Gemini까지 붙이는 Foundation Models 프레임워크 공개

이거 왜 HN 앞에 떴지? 업데이트 된 건가?

작년 발표 때 한 번 크게 다뤘던 건데, 요즘 애플이 새 로컬 모델 준비한다는 루머가 몇 개 돌긴 하더라.

나는 터미널에서 명령어 오류 고치는 데 쓰고 있는데 M1 8GB에서도 꽤 잘 돌아감. 로컬 AI 최소 사양은 이 정도라고 봄.

안전 필터에 막힌 적은 없어? 일반 용도로도 너무 빡빡해 보이던데, CLI 옵션 정도면 걸릴 일이 없어서 괜찮은 건가.

로컬 모델이 코딩은 되냐? Zed 예측기로 쓸 수 있으면 좋겠는데.

PCC 모델로 웹 사이드스크롤 플랫포머 만들어보라고 시켰는데 그것도 힘들어하더라. Cursor 붙여서 테스트해봤음.

클로드도 App Attest 지원한 지 몇 달 됐는데 별로 안 알려진 듯. iOS에서 LLM 부르기엔 Firebase가 제일 실용적이었는데 Anthropic이 왜 홍보를 안 하는지 모르겠음.

Claude나 ChatGPT를 API 플랜 말고 구독제로도 여기 붙일 수 있나? 그러면 꽤 쓸만할 텐데.

Noodle에서 한참 써봤는데 만족스러움. PCC는 아직 안 건드려봤고, 지금은 Siri 데스크톱 앱만 받는 특별 엔타이틀이 필요할지도 모르겠음.

저 조건이면 무료 토큰 주는 거라는 거지? 스몰비즈니스 대상이면 그냥 토큰 샘플 수준 아닌가.

맞음. 개인 계정 말고 조직 계정이어야 PCC 엔타이틀이 나오고 그 다음은 쉬움. WWDC부터 TestFlight 거쳐 출시 앱에 쓰고 있는데 성능이 예상보다 좋더라. 컨텍스트 창은 좀 더 컸으면 하고, PCC 사용량이 내 계정이 아니라 최종 사용자 애플 ID에 붙어서 서버비 걱정이 없는 건 좋음. 레이트 리밋은 짜증남.

애플 CoreAI 쪽이 오히려 조용히 지나가는 중인데, 오픈 웨이트 모델을 Swift로 네이티브 실행되게 포팅하는 레포를 굴리고 있음.