Mistral, 209M 파라미터 시계열 모델 Timestral 공개 벤치마크 1위
- Timestral은 Mistral의 첫 시계열 파운데이션 모델 패밀리이며 가장 큰 209M 모델이 GIFT-Eval, TIME, fev-bench 세 벤치마크에서 1위를 차지함
- 209M 모델은 이전 최고 성능 모델보다 파라미터가 3분의 2 수준이면서 성능은 더 높음
- 5M, 28M, 123M, 209M 네 가지 크기로 나오며 GPU 없이 서버 CPU에서 추론이 가능함
- 다변량 예측과 확률적 예측을 지원하고 과거 및 미래에 알려진 공변량을 입력으로 받음
Hacker News opinions
와 나 5년 전엔 예측 모델 하나 만드는 데 몇 달 걸렸는데 지금은 몇 분이면 되네. 근데 오픈 웨이트 모델이 나왔으면 좋겠음.
허깅페이스 컬렉션에 모델 올라와 있는데? 다운로드 받을 수 있음.
0.03 차이를 5배처럼 보이게 만든다는 건 무슨 단위임?
시계열 데이터는 텍스트랑 근본적으로 다름. 실사용 사례가 빈약하고 가상의 고객을 쓴 걸 보면 마케팅용으로 보임.
동의함. 사실상 숫자점술 모델임. 다만 시리즈가 많아서 하나씩 모델 만들기 어려운 경우엔 쓸모 있을 수도 있음.
시계열을 한 덩어리로 묶는 게 이해가 안 됨. 전기 소비 예측이면 시간대랑 공휴일, 날씨를 모르면 단순한 모델한테도 질 듯. 5M 모델은 은행 휴일이 뭔지도 모를 텐데 어떻게 함?
큰 신경망은 패턴 인식이랑 예측을 동시에 해서 음악 도메인 지식 적용하듯이 학습한 패턴으로 이어서 예측함. 외부 정보는 도움 되는데 데이터가 많으면 없어도 된다는 게 이론임.
정확도가 완벽할 필요 없는 피드백 시스템엔 쓸만함. 부하 분산기 트래픽 예측 같은 거. 주식 매매엔 못 씀. 전통 커브피팅 도구를 대체하는 느낌임.
선박 엔진 고장 예측 면접 본 적 있는데 센서 데이터만 쓰고 외부 정보는 없었음. 그런 경우엔 고전 통계가 LSTM보다 나을 것 같음.
TimeGPT랑 비교하면 어떰?
Timestral은 무료에 오픈 웨이트라 유료 TimeGPT 쓸 이유가 없음.
시계열 파운데이션 모델 유용성에 오해가 많음. 시리즈가 1만 개면 각각 모델 만들면 데이터가 부족하고, 하나로 묶으면 스케일 차이가 문제임. TSFM이 이 작업을 많이 줄여주고 일반화도 더 잘할 수 있음.