LiquidAI, 2.6B 파라미터 LFM2.5로 4배 큰 모델급 에이전트 성능 주장
- LiquidAI가 LFM2.5-2.6B 모델을 공개, 툴 사용과 멀티스텝 에이전트 작업에서 4배 큰 모델과 경쟁 가능하다고 주장함
- 128K 컨텍스트를 지원하며 총 34조 토큰으로 사전학습됨, 파라미터는 2.69B, 레이어는 22개의 게이트 컨볼루션 블록과 8개 GQA 블록으로 구성됨
- Apple M5 Max에서 초당 220토큰, AMD Ryzen CPU에서 초당 113토큰을 처리하며 메모리는 2.5GB 이하로 사용함
- 공식 문서는 에이전틱 워크플로우, 툴 사용, RAG, 장문 컨텍스트 작업에 추천하되 agentic coding과 지식 집약 작업에는 비추천한다고 명시함
- HN 댓글에서는 실사용 시 coherence 문제와 자체 벤치마크의 cherry-picking 가능성이 지적됨, Nanbeige4.2-3B, Ling-3.0-tiny 등 비교 대상에서 빠진 소형 모델들이 언급됨
Hacker News opinions
LiquidAI 모델들은 실제로 써보면 항상 별로였음, 나한테는 한 번도 제대로 작동한 적이 없음
구체적으로 어떤 문제였는지 알려줄 수 있음? 나는 지금 2.6b 버전을 문서 편집 작업에 써보려던 참임
나도 동의함, coherence(일관성) 문제가 심각하더라
이런 작은 모델로 에이전틱 코딩을 누가 쓰는지 모르겠는데, 대신 로컬에서 수백 개의 작은 에이전트를 굴려서 군중이나 시장, 게임 NPC 같은 걸 시뮬레이션하는 미래는 기대됨
에이전틱이 코딩만 있는 게 아님, 페이지에도 "tool use, data extraction, RAG, long-context workflows에 추천, agentic coding이랑 knowledge-heavy task엔 비추천"이라고 써있음
LFM 계열은 훈련 방식이 다른 모델들이랑 근본적으로 다름, 그냥 큰 모델을 축소한 게 아니라 작은 모델 자체를 위해 설계함, 230M짜리도 만드는데 이 정도로 작게 설계하는 곳은 없음
비교표가 자체 발표라 cherry-pick(선택적 비교) 가능성이 큼, Nanbeige4.2-3B나 Ling-3.0-tiny는 왜 안 넣었는지, 그보다 더 작은 모델 만드는 곳들도 있음
IBM Granite도 작은 모델 만듦
i3/i5 노트북에서도 돌아갈까?
돌아갈 거임, 12세대 인텔이면 속도도 괜찮음, 근데 그보다 용도가 뭔지가 더 중요함
2배 큰 Qwen 4B랑도 경쟁이 안 됨, 근데 왜 Qwen3.5 2B는 비교표에 없는 거임?
모델 자체는 괜찮은데 HN 제목을 editorialize(과장) 안 했으면 좋겠음
페이지 설명에 "4배 큰 모델과 경쟁 가능"이라고 그대로 써있어서 그런 거임
벤치마크 차트에는 항상 "낮을수록 좋음" 또는 "높을수록 좋음"을 표시해야 함, 다들 숫자 의미를 아는 게 아님