IFM, 학습부터 에이전트 사후학습까지 공개한다는 6종 K2 Horizon 모델군 출시
- IFM이 K2 Horizon 0.9B, 3.7B, 7B, 32B, 36B-A4B, 375B-A23B 등 6개 모델의 가중치와 코드에 Apache 2.0 라이선스를 적용해 공개함
- 각 모델의 사전학습, 추론, 에이전트 사후학습 단계에서 중간 체크포인트, 학습 데이터 또는 구성법, 설정, 로그, 평가 결과를 공개하며 데이터 재배포가 불가능한 경우에는 혼합 및 구성 방식을 밝힘
- 0.9B 모델은 AIME 2026에서 48점 이상을 기록했다고 밝히며, IFM은 0.9B·3.7B·7B가 각 규모의 수학·추론·코딩·에이전트 평가에서 최고 수준 성능을 냈다고 주장함
- 36B-A4B는 값 어텐션 계산에 적용한 MoVA 구조를 사용하며, 375B-A23B MoE 모델은 토큰당 약 23B 파라미터만 활성화함
- 6개 모델은 0.9B의 축소 어휘를 제외하면 아키텍처, 어휘, 학습 방식, 인터페이스, 평가 도구를 공유하고 모두 양자화를 지원함
Hacker News opinions
요즘은 모델 출시 속도가 10년 전 자바스크립트 프레임워크보다 훨씬 빨라서 피로감이 듦. 적어도 모델은 도입 자체는 더 쉽긴 함.
그래도 이번 건은 학습 전 과정을 공개한다는 점으로 구분은 됨.
CPU도 처음엔 펜티엄 하나가 큰 뉴스였지만, 지금은 매번 새 칩을 추적하는 사람만 성능 차이를 따짐. 모델도 결국 지금 필요한 용도에 충분한 것을 고르는 단계로 갈 듯함.
모델 소식을 전부 따라갈 필요는 없음. 대부분의 용도에는 최전선 모델이 필요 없고, 뭘 만드느냐가 더 중요함.
'Radically Open'이라고 해놓고 첫 링크가 로그인 페이지인 건 좀 웃김. 링크는 접속되더라.
완전 공개 모델이라면 가중치뿐 아니라 소스, 학습 데이터, 데이터 정리와 투입 과정까지 열어야 한다고 봄. 그래야 폐쇄 모델 안에 무엇이 들었는지 모르는 문제를 줄일 수 있음.
나도 공개를 선호하지만, GNU/Linux와 macOS처럼 현실에서는 폐쇄 제품으로 일을 처리하는 경우가 많을 듯함.
학습 데이터를 정말 공개하려면 데이터 자체가 허용적인 라이선스여야 함. 돈을 댈 주체가 없는 것도 문제임.
사전학습과 사후학습 저장소가 둘 다 비어 있더라. 공개 일정 전에 페이지부터 올라간 것 같음.
K2라는 이름은 이미 Kimi K2가 있어서 헷갈림. 굳이 이런 이름을 택할 이유가 있었나 싶음.
비교표는 과제마다 경쟁 모델이 바뀌어서 읽기 이상함. DS4Flash, GLM53Flash, Qwen38 같은 최신 공개 모델과 같은 벤치마크 묶음으로 비교했어야 함.
'최상위'라는 홍보 문구와 자체 성능표가 맞지 않는 부분이 있음. 32B는 Qwen3.8 27B보다 꽤 뒤처지고 Gemma4 31B도 비교에 없음.
32B는 표에 'stage 1'이고 최종 체크포인트는 나중에 낸다고 적혀 있음. 미완성 모델을 왜 지금 공개하는지는 모르겠지만, 7B 성능은 아주 좋아 보임.
학습 데이터가 없다는 비판은 맞지 않을 수도 있음. Hugging Face에 코드 추론 3.3TB, 수학 추론 4.5TB, 사전학습 행동 데이터 8.4TB 등이 올라와 있더라.
주요 폐쇄 LLM이 전부 접속 불가였던 날 이 발표를 보니, 공개 모델을 로컬에서 돌릴 수 있는 가치가 더 분명해짐.