Liquid AI, 2B급 멀티모달 LFM3 6종 공개. 1.7B가 LFM2.5-2.6B를 35% 적은 파라미터로 앞서고 4비트에서 약 1GB

이번 릴리스 작업한 사람임. 로컬 모델이랑 클라우드 프런티어 모델 얘기라면 뭐든 물어봐도 됨.

솔직히 이게 왜 좋은 건지 모르겠음. 문서만 훑으면 '특화 유즈케이스' 얘기만 반복되는데, 집중력 없는 사람한테 한 줄로 설명해줄 수 있나?

시스템 프롬프트 없이 '제일 큰 알 낳는 동물이 뭐냐' 물었더니 추론 트레이스에 '도구를 써야 한다'는 지시가 튀어나오던데, 도구 사용 RL이 모델에 통째로 박힌 건가?

OCR이나 PDF, DOCX 같은 문서 파싱에도 쓸 만한지 궁금함.

라이브 모드가 30초마다 텍스트를 리셋하던데, 한 시간짜리 녹음에서 액션 아이템 뽑으려면 LFM3-Audio-2B에 바로 밀어넣어야 하나, 아니면 전사부터 하고 텍스트 모델에 넣어야 하나? 그 루틴을 파인튜닝한다면 라벨 몇 개나 필요할까.

LFM3-Omni-2B가 비전 작업에서 VL-2B보다 떨어지나? 원하는 기능에 맞춰 고르는 게 나은지 그냥 옴니 쓰면 되는지 모르겠음.

로컬 모델은 사람들이 하드웨어 한계까지 밀어붙여서 모더레이션 둘 여유가 없음. 예전 LFM이 훨씬 큰 모델보다 이걸 잘했는데, decision 모델이 그 방향의 다음 단계 아닐까. 인기 모델 벤치마크엔 모더레이션 성능이 아예 안 나오더라.

LFM 2.6으로 이메일이랑 문자를 한 DB에 계속 넣으면서 RTX A4500에서 주석 붙이는 중임. 신뢰할 만한 주석이 40% 조금 넘게 나오는데 LFM3로 갈아탈 생각. LocalAI에 들어오기만 기다린다.

뉴스 기사 태깅엔 gliner2.5 추천함. gpt로 태깅한 500개로 5090에서 몇 분 만에 파인튜닝했고 헤츠너 CPU에서 잘 돌아감.

신뢰도는 어떻게 판단함? logprobs 씀?

에이전트 코딩 수치는 Qwen3.5-4B급이고 나머지는 Qwen3.5-9B급임. 1.7B에서 이 정도면 대단한 거고, 속도 챙기는 것도 Liquid가 늘 잘했음.

이렇게 작은 모델을 코딩에 진지하게 쓸 사람이 있나? 의도된 용도도 아닌 것 같은데.

2.6B를 홈어시스턴트 메인으로 쓰다가 더 빠른 Ling 3.0 Tiny로 옮겼음. 2.5는 홈어시스턴트에 너무 멍청했는데 1.7B는 충분하면 좋겠다.

옴니랑 텍스트 모델 둘 다 MLX 버전으로 lm studio에서 돌려봤는데 safetensors를 못 읽는다면서 아예 안 올라옴.

mlx-vlm이 오디오랑 옴니 둘 다 지원함. MLX 8비트 export도 따로 있음.

플레이그라운드에서 LFM3-VL-2B가 텍스트 프롬프트에서 1.7B보다 나았음. '소가 뭐라고 우냐'에 1.7B는 Oink라고 했고 VL은 moo라고 했거든. 아마 양자화 문제인 듯, llama에서 Q8로는 둘 다 맞게 나옴.

양자화가 늘 문제지. 어떤 퀀트였음?