CERN과 Mistral, 입자물리용 파운데이션 모델 공동 개발 의향서 체결
- CERN과 Mistral이 고에너지 물리용 파운데이션 모델인 Large Physics Model 개발을 목표로 장기 전략 협력 의향서를 체결함
- 모델은 LHC에서 나온 수십억 건의 가상 양성자-양성자 충돌 데이터로 학습되고, 입자 재구성부터 이상 신호 탐지와 검출기 설계 평가까지 한 모델이 여러 작업을 맡도록 설계됨
- 현재 재구성은 특화 알고리즘을 순서대로 잇는 방식이고, 파운데이션 모델은 이 전체 사슬을 하나의 모델로 묶어 학습하는 접근임
- CERN은 LHC 실험 데이터 약 1엑사바이트(100만 테라바이트)를 보관 중이며, HL-LHC가 2030년 무렵 가동되면 충돌 건수가 10배로 늘어남
Hacker News opinions
유럽 대학이랑 국립 연구소도 같이 붙어야 한다는 말인데, CERN 자체가 이미 다국적 협력체고 GÉANT 같은 망도 있어서 아마 이미 어느 정도 되고 있을 듯.
미국 빅테크 두 곳이 판을 쥐고 있는 와중에 실제 과학에 쓰는 AI 얘기가 나와서 반가움. 윤리적으로만 제대로 쓰면 좋겠음.
Mistral이 프런티어 랩들이랑 격차가 꽤 컸던 회사라 과학용 맞춤 모델에 맞는 선택인지는 모르겠음. 유럽 AI 밀어주려고 CERN 예산을 Mistral로 돌리는 느낌이 더 강함.
AI가 수학이나 과학에서 실제 성과를 낸 건 인정해야 함. 슬랍 이미지 찍어내는 거랑 같은 AI로 묶는 게 문제임.
내가 CERN에서 박사할 때는 Higgs 분석에 boosted decision tree 넘어서는 방법 쓰려면 승인 받기가 거의 불가능했음.
2012년쯤엔 신경망으로 signal과 background 분리하는 거 꽤 표준이었음. ATLAS Higgs 발견 논문도 광자 식별에 신경망 썼음.
실제 과학 기여가 LLM 쪽에서 아직 눈에 띄는 게 없음. Anthropic의 CRISPR 비슷한 발견 말고 더 설득력 있는 사례 있으면 알려줘.
수학이나 이론 컴퓨터 과학은 진짜 과학 아님? 결과는 실제로 LLM에서 나오고 있음.
에이전트로 논문 결론에 결함 있는지 점검해봤더니 15%에서 결함이 나왔다는 글 봤음. 이런 감사 작업만으로도 과학에 꽤 큰 진전임.
이 모델은 텍스트 말고 실험 데이터로 학습하는데, 그럼 이걸 LLM이라고 불러도 되는 거임?