Cerebras, OpenAI GPT-5.6 Sol Ultrafast에 최대 초당 750토큰 제공

가격 정보가 없어서 "물어봐야 할 정도로 비싼" 상품일 수도 있겠다고 봄. 아직 수요를 보며 정하는 단계일 수도 있고.

신청한 기업이 사용 사례를 설명하면 접근을 넓히는 프로그램이라서, 실제 서비스이긴 한데 당분간은 제한적일 듯함.

OpenAI가 이 협력에 관심을 둔 가장 큰 이유는 내부 연구의 순차적 병목을 줄이려는 것 같음.

나도 빠른 추론이 과소평가됐다고 봄. 예전에 Cursor Composer를 최전선 모델보다 자주 쓴 이유도 그냥 엄청 빨랐기 때문임.

DeepSeek Flash를 써 보니, 똑똑한 최전선 모델도 이 정도 속도가 났으면 좋겠다는 생각이 듦.

속도가 왜 필요한지 잘 모르겠음. 내 경우 병목은 창의력, 집중력, 예산이고 검토 작업은 느린 로컬 모델에 밤새 배치로 돌려도 됨.

속도와 지능 기준으로 보면 Gemini 3.7 Flash는 이제 파레토 전선에서 밀린 듯함.

그래도 가격이라는 축이 남아 있음.

HLE 2,500문항은 서로 독립적인 작업이라 대규모 병렬 처리만 하면 됨. 어려운 HLE 한 문제를 끝까지 푸는 지연 시간이 얼마나 되는지가 더 의미 있는 수치임.

예전 90년대에 단일 스레드 성능이 빨라지던 느낌임. 공정 미세화 대신 ASIC과 웨이퍼 스케일을 쓰지만 소비자가 체감하는 결과는 비슷함.

Luna는 벤치마크보다 실사용에서 꽤 괜찮더라. 충분히 빠르면 작업이 비동기 대기에서 실시간 상호작용으로 바뀌는데, Cerebras 가격이 현재 수준에 가까울 거라고는 기대 안 함.

우리 쪽 테스트에서는 Sol이 Fable보다 같은 작업에 출력 토큰을 10배에서 100배 적게 썼음. 모델을 거의 24시간 돌리니 Sol로 바꾸면 하루 약 $500을 아끼고, 가드레일로 세션이 중간 종료되는 일도 줄었음.

생성 속도가 앞으로 표준이 되면 슬롭 코딩에서는 컴파일 시간이 진짜 병목이 될 듯함. 10초 만에 프로토타입을 뽑고 15분 컴파일을 기다리는 것보다, 개발 빌드가 밀리초 단위인 Go, Zig, C99 같은 언어가 더 매력적일 수 있음.

이미 Codex 구독의 Fast 모드도 1.5배 빠르고 2배 비쌈. 이게 14배 빠르면 한 세션 만에 할당량을 다 쓸 수도 있음.

비교 그래프에서 6월에 나온 Mimo v2.5-Pro Ultraspeed를 빼놓은 건 아쉬움. 점수는 약 40% 낮지만 1,000 tok/s가 가능하고 Sol 비용의 10분의 1 이하라 많은 코딩 작업에는 충분함.