Sebastian Raschka, 추론 모델 직접 구현 영상 강좌 공개: 8편 11시간, PyTorch로 평가부터 강화학습·증류까지
- Sebastian Raschka가 8편, 총 11시간 분량의 추론 모델 직접 구현 영상 강좌를 공개함. 사전학습된 소형 Qwen3 모델에서 출발해 평가, 추론 시점 스케일링, 강화학습, 증류를 Python과 PyTorch로 직접 구현함
- 강좌는 저서 Build a Reasoning Model (From Scratch) 의 동반 영상이며, 앞선 Build a Large Language Model (From Scratch)는 권장 사항일 뿐 필수 선수 지식은 아님
- 초반 텍스트 생성과 평가 예제는 CPU로도 실행되지만, 학습 실험부터는 GPU가 사실상 필요함. 저장소에 하드웨어와 환경 권장 사항을 따로 정리해 둠
- Raschka는 추론 모델을 일반 LLM에 검증 가능한 보상 기반 강화학습을 더한 업그레이드로 규정하고, 에이전트 하네스는 그 모델을 엔진으로 삼아 도구 접근과 컨텍스트를 관리하는 소프트웨어 계층이라고 설명함
Hacker News 의견들
이거 강추함. 복잡한 AI 개념을 진짜 직관적으로 풀어줘서 카파시 2.0이라는 말이 나올 만함.
나도 Build Your Own LLM From Scratch 사서 읽는 중인데 손 잡아주듯 설명해서 좋더라. 아직 초반이라 다 못 읽었지만 PyTorch 쓰는 법이랑 autograd로 역전파가 어떻게 도는지 감 잡은 것만으로도 재밌었음.
솔직히 이게 누구한테 쓸모 있는지 모르겠음. 진짜로 모델을 만든다면 영상 강의로는 택도 아니고, 안 만들 거면 굳이 영상으로 배워야 하나 싶고. 개인 브랜드 수익화 아니냐는 의심도 듦.
영상만으로 안 된다는 논리는 좀 이상한데. 공대 학위도 강의만으로 안 되지, 과제랑 프로젝트를 따로 해야지.
너무 부정적으로 볼 필요는 없음. 소규모 팀이 프론티어 모델은 아니어도 특정 문제 하나만 잘 푸는 특화 모델을 직접 만드는 쪽으로 갈 수도 있잖아.
두 권 다 읽었는데 둘 다 훌륭함. 이번 책이랑 LLM 책 영상까지 다 봤는데 그제서야 퍼즐이 맞춰지는 느낌이었음.
나는 그의 책으로 시작했는데 어려운 개념을 쉽게 잡아줘서 좋더라. 그 덕에 AI 모델 동작 원리를 인터랙티브하게 배우는 플랫폼을 만들고 있음.
질문 하나. LLM이나 ML 배울 때마다 좀 허무한 기분이 듦. 이론 과정은 수학 전공급 헌신을 요구하는 것 같고, 실습은 컴퓨트랑 데이터 때문에 홈해커한테는 손글씨 숫자 분류기 넘어가면 벅차고. 나만 이런가?
그건 교재들이 보통 이론 기초부터 쌓으려 해서 그럼. ML만 그런 것도 아니고. 세바스찬 책 사서 위에서부터 훑어봐라, 훨씬 낫다.
나도 비슷한 느낌임. ML은 수학 지식에 직관까지 필요한데, 결국 실무의 messy한 데이터로 모델을 만드는 법을 배워야 해서 소프트웨어 개발이랑 진입 장벽 자체가 다름. 데이터나 모델 인프라 쪽 SWE로 들어가서 안에서 모델링을 늘려가는 게 현실적이더라.