아마존 사이언스의 'ML 연구 에이전트는 왜 과적합하지 않나' 글, 해커뉴스에서 "Claude가 쓴 slop" 지적

ML은 원래 일반화가 핵심이지 암기가 아니라고 글에서 말하는데, 어차피 모델은 패턴을 외움. 암기라고 다 껍데기 학습은 아님.

그건 좀 따지는 거 아니냐. ML에서 암기라고 하면 용량이 과해서 학습 예제 자체를 외워버리는 상태를 말하는 거임.

홀드아웃이나 검증 세트로 패턴을 일반화하는 전략은 계량경제나 심리측정에서는 잘 안 보이는 ML만의 방식이고, 설명 대 예측 논쟁이랑 이어짐.

테크 대기업들도 이제 Claude가 다 쓴 것 같은 글을 올리는구나.

Occam's razor, formalized라고 붙은 애니메이션 그래픽이 진짜 그걸 시각화한 건지 의심스러움.

이 글에서 AI 티 나는 데 걸린 시간 1초도 안 걸림. 문단마다 claudism이 넘치는데, 자기 글을 한 번이라도 읽어봤으면 저 문체는 걸러냈을 거임.

논문은 arxiv.org/abs/2606.11045인데 왜 본문에 링크를 안 넣었는지 모르겠음. Claude 썼으면 밝혀야지.

그 방법론은 offconvex의 rip van winkle 글에 일부 기반한 거라 어디서 본 것 같았음.

Occam's razor를 자꾸 오해하는데, 단순한 게 더 맞을 확률이 높다는 게 아니라 그냥 단순해서 선호하라는 뜻임.

그건 아닌 듯. PAC learning 형식으로 보면 단순한 쪽이 실제로 더 맞을 확률이 높음.

학계에서는 오히려 복잡한 게 논문이 됨. Occam's razor 반대 방향으로 가는 셈.

포인트 수보다 파라미터가 훨씬 많아도 과적합을 안 하는 경우가 있음. double descent 찾아보면 됨.

ML 연구 에이전트가 과적합을 안 한다고? 걔네 과적합함.

AI 관련 글은 이제 읽을 이유가 없음. 다 slop이니 RSS로 돌아가야 함.

RSS로 돌아가면 뭐가 달라지는데?

압축이 지능이라는 얘기엔 이제 눈이 돌아감. 모든 튜링 머신을 탐색하는 메가 알고리즘을 만들면 최적 압축기가 되는데 완전 공허함.

peer review 없이 블로그로만 내는 것도 그렇고, 논문이 있으면 왜 같이 안 걸어놨는지 이해가 안 감.