생성 AI 수학 기초 다룬 195쪽 프리프린트 arXiv에 v2 공개, 해커뉴스선 딥러닝 입문서 추천으로 번져
- Tianhua Chen이 arXiv에 생성 AI 수학 기초 입문서를 공개함. v1은 2026년 5월 28일, v2는 9월 8일에 올라왔고 v2에서 시각 설명을 곳곳에 추가해 파일 크기가 125KB에서 1,168KB로 커짐.
- PCA, 확률적 PCA, VAE, 확산 모델, normalising flow, 자기회귀 분해, GAN, Wasserstein GAN, 에너지 기반 모델을 하나의 유도 흐름으로 연결함. 최신 아키텍처를 훑는 대신 모델들이 어떻게 도출되고 서로 어떤 관계인지에 집중함.
- 수학적 내용을 빼지 않으면서 생성 모델링의 구조를 이해하기 쉽게 만드는 게 목표라고 밝힘. 대상은 수학에 관심 있는 연구자, 실무자, 학생임.
- 분량은 195쪽이고 arXiv 분류는 cs.LG와 cs.AI임. 저자는 댓글란에서 수정과 의견을 받는다고 적음.
Hacker News 의견들
내가 제일 좋아하는 little book은 François Fleuret의 The Little Book of Deep Learning임. 폰 화면에 맞춘 PDF를 따로 제공하는 것도 세심하고 좋더라.
Fleuret 책은 주제를 잘 다루긴 하는데, 모든 페이지를 규격 용지 한 장에 넣은 일반적인 PDF도 같이 올려줬으면 좋겠음.
Fleuret 책은 기본 딥러닝의 토대를 주고, 이 책은 트랜스포머 쪽에 필요한 토대를 줌. 지금 'AI'라고 부르는 것들이 원래 딥러닝 개념만큼 복잡해서 두 책이 다루는 범위가 겹치지 않는 듯.
어텐션 구조만 따로 다룬 책 추천해줄 사람 있나? 오래 관심 있었는데 아직 공부를 시작하지 못했음.
책은 아니지만 3blue1brown의 어텐션 영상이 꽤 좋음.
Formal Algorithms for Transformers(arXiv 2207.09238)가 어텐션 입문으로는 내가 아는 가장 간결한 자료임.
이런 자료는 다 RAG 폴더에 넣어두고 나중에 프로젝트에서 꺼내 씀. 지금 논문이랑 책이 8GB 정도 쌓였음.
그 폴더에 지금까지 뭘 넣었는지 공유해줄 수 있나?
이걸 워크플로에 어떻게 넣는지 궁금함. 구현할 때 에이전트가 참고할 근거 자료로 불러 쓰는 방식인가?
연습문제가 들어 있는 딥러닝 책은 없나?
이 책 생각보다 잘 읽힘. 선형대수 기초부터 시작하는 구성이 마음에 듦.
해커뉴스 큐레이션 논문 목록에 이 책도 추가하면 좋겠음. 영상 목록이나 책 목록 옆에 두면 딱일 듯.