Aleph Alpha, 78B 총 파라미터에 활성 3B, 1M 컨텍스트의 오픈웨이트 MoE Kolibri를 Apache 2.0으로 공개

고성능 소프트웨어를 추천하면서 quant 4나 8은 고려도 안 하고 A3B를 쓴 게 신기하네. Qwen3.8-Flash-Next처럼 VRAM 요구량을 확 줄인 걸 따라가면 좋을 텐데.

EU 모델이 나오는 건 반갑지만 IP safety 주장은 의심스러움. 2026년에 훈련 데이터를 널리 훔치지 않고 경쟁력 있는 모델을 만드는 건 불가능해 보임. 훔치는 게 불편한 팀은 칼 들고 총싸움에 나가는 셈이고, 고귀하지만 예정된 죽음을 맞을 거야.

그건 아닌 것 같은데. first-sale doctrine으로 저작권 자료를 훈련에 쓰는 합법 경로가 있고, 책을 잘라 스캔하는 건 지금도 합법이야. 증류도 불법 아니고, 대법원도 저작권 침해가 절도나 전환과 같지 않다고 판시했음.

훈련 데이터를 '훔친다'는 발상 자체가 우스움. 내가 도대체 뭘 훔친 거지? 원작자는 아무것도 잃지 않았고, 실제로 문제되는 건 무단 복제뿐이야. 저작권 집행을 고귀하다고 보는 시각이 오히려 권위주의적으로 느껴짐.

모델을 직접 써보고 경쟁력이 있는지 얘기해봐. 테스트는 쉬운데 그건 안 하고 일반론만 늘어놓으면 설득력이 없지.

벤치마크만 보면 나쁘진 않음. 78B A3B가 Qwen3.6 35B A3B 정도 성능이라 96GB RAM에서 적당한 양자화로 돌아가. 취미용 코딩 모델로는 경쟁력이 없고, 규제 산업에서 정보 추출이나 분류기로 쓰기엔 괜찮은 정도임.

IP 법 시효가 지난 게 아닌가 싶음. 대부분 모델이 다른 모델 출력으로 훈련됐고 AI 붐 이후 GitHub 저장소도 모델이 만든 코드가 섞였잖아. 깨끗한 데이터만으로 훈련하는 건 풀어놓은 계란을 다시 담는 격임.

경쟁력 있는 최신 모델의 우위는 결국 독점 데이터에서 나옴. OpenAI와 Anthropic이 데이터에 수십억을 쓰는 이유가 있고, 연구급 수학이나 고급 보안 능력이 공개 데이터만으로 나오진 않아. 진짜 소버린 시도라면 자체 데이터 생성에 크게 투자해야 함.

Kolibri 훈련팀 소속이고 의견은 개인적인 거야. 큰 모델은 세계 지식에서 저작권 자료 효과가 크지만, 작은 모델에서는 즉석에서 지식을 찾는 에이전트 능력이 더 중요해서 거기에 집중했음. 나도 훔치는 건 옳지 않다고 봄.

커스텀 토크나이저가 실제로 더 나은지 궁금하네. 공개된 예시는 흥미로웠음.

Aleph Alpha 팀이 열어줘서 고맙다고, 우리가 며칠간 Kolibri-1을 무료로 호스팅해서 아무나 써볼 수 있게 했음. GPU도 설정도 필요 없음.

써봤는데 감동은 없었음. RAM이 부족한 상태에서 llama.cpp로 자기 자신을 어떻게 돌리는지 물었더니 '모른다'면서 Huggingface 탭을 클릭하라고 하더라. 확장 사고를 켜도 마찬가지였고, 답변 중에 소스 목록이 화면을 다 채워서 위로 스크롤도 못 하게 만드는 인터페이스도 별로였음.

사이트 폰트가 논레티나 디스플레이에서 확대하기 전엔 꽤 안 좋음.

커뮤니티 주도 분산 훈련으로 주기적으로 릴리스하고 가중치와 코드를 다 여는 LLM 배포판이 나올 수 있을까? 공개 데이터셋만으로 웹 검색이나 코딩 정도는 되는 모델이 나오는 LLM의 Debian 순간이 얼마나 남았는지 궁금함.

Qwen3.8 27B가 Kolibri 자체 벤치마크 독일어 항목에서 79.9 대 70.8로 이기더라. Cohere 인수가 끝나면 90% 소유에 운영은 100% 토론토인데 소버린 주장이 계속 유효한가?

그건 나도 놀랐음. Aleph Alpha가 공들인 걸 보면 Qwen 팀이 독일어 데이터를 어마어마하게 확보한 모양. 유럽에서 오픈 모델을 만들려는 시도 자체는 반갑고.