화웨이 CSL, vLLM·llama.cpp 겸용 로컬 추론 양자화기 MACaQ 공개
- 화웨이 CSL이 로컬 추론용 자체 양자화기 MACaQ를 GitHub에 공개했고, 저장소 안에 vLLM, llama.cpp, diffusers, PyTorch용 구현이 각각 나뉘어 들어 있음.
- examples 폴더에 Qwen3.6 양자화 레시피가 포함됨. README에는 라이선스와 논문, 모델 컬렉션 배지가 붙음.
- 저장소는 11월 10일 첫 커밋 이후 이틀 만에 20개 커밋을 쌓음. 최근 커밋은 리비전 전달과 fused quantization bounds 수정, MACaQ-R 출력 갱신을 다룸.
- 토론에 따르면 화웨이 GitHub에서 스타 순 상위 3개 저장소가 모두 양자화 관련이고, 사용자들이 직접 재현해 GGUF로 변환한 결과도 나오고 있음.
Hacker News 의견들
왜 HN 사람들은 공식 사이트 놔두고 GitHub 링크만 올리는 거임? 화웨이는 아직 제재 대상이라 중국 밖에 호스팅한 것도 언제 사라질지 모르는데.
난 GitHub가 낫더라. 코드가 바로 보이고 어디를 눌러야 할지 감이 옴. 제품 페이지는 마케팅 영상이랑 스크린샷만 잔뜩이라 읽기 귀찮음.
저 저장소들 꽤 오래전부터 굴러다녔음. 그리고 화웨이가 무료로 푸는 걸 굳이 제재해야 하나 싶기도 하고.
모델은 안 낸 건가? Strata에 쓰기 좋아 보이는데.
Qwen 3.8 27B에는 이미 macaq 퀀트가 올라와 있음.
사람들이 직접 재현해서 GGUF로 만들고 있더라.
화웨이 GitHub에서 스타 순 상위 3개가 전부 양자화 repo임. LLM 연구자가 아니라서 뭐가 다른지, 왜 파이프라인을 세 개나 따로 둔 건지는 모르겠음.