Thinking Machines, 975B 파라미터 오픈웨이트 모델 'Inkling' 공개하고 Tinker에서 자체 파인튜닝 시연

미국도 중국의 DeepSeek나 Z.ai 같은 오픈모델이 필요한데, Thinking Machines가 그 역할을 할 수도 있을 것 같음

GLM 5.2보다 크기는 더 큰데 에이전트 작업에서는 밀림. 전환 비용이 워낙 낮아서 경쟁이 살벌해질 듬. AllenAI도 있긴 한데 아직 이 규모 모델을 못 냄

Arcee, Reflection 같은 회사도 오픈웨이트 노리고 있음. 파인튜닝 API+오픈웨이트 조합이 사업모델로는 그나마 말이 되는데, 왜 오픈웨이트 모델 만든 회사가 파인튜닝을 더 잘하는지는 아직 의문임

오픈웨이트 모델의 비즈니스 모델이 대체 뭐임?

블로그 아니고 진짜 모델을 릴리즈한 건 처음 보는 듯. 서구권 오픈웨이트 중에서는 최고로 보임

크기 30% 더 크고 GLM 5.2보다 못하다면 굳이 이걸 써야 할 이유가 있나 싶은데, 멀티모달 때문인가 싶음

파인튜닝 경험이 정말 매끄럽고 데이터 추출까지 도와준다면 Tinker 기본값이라는 이유로 쓸 만함. 코딩 말고 비코딩 에이전트 쪽에서 강점 있을 수도 있음

벤치마크 숫자가 전부는 아님. 이미 벤치맥싱된 모델도 많아서 실전 작업에서는 다를 수 있고, 비전 인풋 지원되는 건 확실히 큰 장점임

Inkling-Small이 276B, 활성 12B로 GLM 5.2보다 훨씬 작으면서 멀티모달이라 DeepSeek V4 Flash 대체재로 흥미로울 듬

이 모델은 인스트럭션 팔로잉은 좋은데 코딩은 다른 모델보다 약한 것 같음. 오픈웨이트 다양성 늘어나는 건 항상 좋음

오디오 강점 있는 롱컨텍스트 멀티모달 오픈웨이트 모델은 반가움. z.ai 쪽이 비전 작업하기 전까지는 범용 에이전트용으로 꽤 강할 수도

MiniMax M3나 DeepSeek v4-Pro도 롱컨텍스트 멀티모달 오픈웨이트인데, 150k~200k 넘어가면 성능이 확 떨어지는 게 함정임

276B A12B 버전 언급되는데 웨이트가 아직 공개 안 된 것 같음. 2비트 양자화하면 128GB에 들어갈 수도 있어서 흥미로움

Nemotron보단 낫고 GLM보단 못한 정도면 미국산 오픈웨이트 중에서는 최고인 듬

Nemotron 3 Ultra보다 거의 두 배 크니까 당연히 더 나아야 하는데, 활성 파라미터는 오히려 41B로 Nemotron의 55B보다 적음

Nemotron은 코딩 작업에서 써보니 거의 못 쓸 정도로 성능이 안 좋았음

HuggingFace에는 Apache-2.0으로 나와있는데 AUP도 있다고 하고, 이게 어떻게 같이 작동하는지 모르겠음

벤치마크를 레이더 차트로만 보여주는 거 보니 실제 성능이 어떤지 제대로 알 방법이 없을 듬

오픈웨이트 AI 회사들 사업모델이 뭐냐면, 그냥 API로 서빙하는 것부터 파인튜닝 API 제공, 커스텀 모델/서비스 제공 후 인수되는 경로까지 다양함