AI가 에르되시 추측 반증하는 사이 미국은 수학 인력 파이프라인을 스스로 무너뜨리는 중

수학 실력을 어떻게 평가할지도 모르겠음, 나도 미적분학 배웠는데 지금 시험 보면 통과 못할 듯

화이트헤드 말처럼 문명은 생각 없이 수행할 수 있는 일을 늘리며 발전해온 거임, 이제는 생각하는 것마저 생각 없이 하게 된 거지

그 인용문에서 핵심은 '수행'이라는 단어임, 결국 우리가 이해하는 실행 엔진 위에서 이해하는 걸 더 많이 처리하는 게 스케일임

'우리'라는 말이 수상함, 시계 보는 나와 이웃은 편하지만 그 뒤에는 기어와 베어링, 합금을 연구한 사람들의 엄청난 두뇌노동이 있었던 거임

AI가 쓰는 모든 도구, 실행한 프로그램, 논리적 추론을 다 공개하게 강제해야 함, Lean이나 Rocq 증명이나 실행 트레이스로 검증 가능하게 만들어야 함

그건 그냥 구현 선호일 뿐임, 원하면 지금도 직접 하네스 짜서 그렇게 할 수 있음, 고양이 밈 생성기 만드는데 Lean 증명이 왜 필요함

내연기관이나 제대로 된 신발 만드는 법 아는 사람 몇 명이나 있음, 수공예는 이미 수십 년 전에 끝났음, 수학은 일상에서 자연스럽게 재현 가능해서 오히려 회복하기 쉬운 영역임

Thurston 말처럼 수학의 산물은 정리 자체가 아니라 명료함과 이해임, 수학은 살아있는 커뮤니티 안에서만 존재하고 서로 배우고 나누는 데서 진짜 만족이 나옴

이걸 소프트웨어 업계에도 대입해볼 수 있을 것 같음, 결국 소프트웨어도 코드 자체가 아니라 이해와 명료함이 산물인 거 아닌가

진짜 걱정되는 건 AI가 전문가를 대체하는 게 아니라 AI가 자신 있게 틀렸을 때 그걸 알아챌 수 있는 사람이 아예 없어지는 상황임

요즘 에이전트 코딩 루프 돌려봤는데 진짜 무서울 정도로 잘 돌아감, 각 에이전트가 주장할 때마다 유닛테스트나 빌드 결과물, 외부 인용으로 증거를 대게 하고 다른 LLM이 검증하는 구조더라, 근데 의료 AI 같은 데선 이게 통할지 모르겠음

이건 특이점이 AI가 앞으로 튀어나가서 오는 게 아니라 우리가 계속 뒤로 밀려나서 컴퓨터가 이해 가능한 경계선 너머로 가는 것처럼 느껴짐

중세 농민 입장에서 보면 우리는 이미 오래전에 특이점을 지난 거임

결국 요약하면 수학자들이 돈 더 달라는 얘기임