필즈상 수상자 25명, AI의 수학 문제 풀이 경쟁이 인간의 이해와 전승을 해친다고 경고

선언문이 문제를 잘 짚었지만, AI 기업에 뭘 바꿔야 하는지까지 요구하려면 구체적인 대체 장치도 제시해야 한다고 봄. Tao도 급해서 충분히 협의하지 못했다고 인정했더라.

기존 제도를 무너뜨리는 혁신을 만든 쪽이 왜 그 제도의 실패까지 수습해야 함? 책임을 AI 기업에만 돌릴 이유는 없다고 봄.

Tao가 완전히 추상적인 말만 한 건 아님. ICM 2026 발표 슬라이드 46-51쪽에서 더 구체적인 권고를 이미 냈고, 아직 발전시킬 부분은 있어 보임.

기계만 이해하고 인간이 이해하지 못하면 무슨 이득이냐는 의문이 남음. 이해하지 못하는 시스템을 만들면 예측 못 한 결과를 감당하게 될 수 있고, 학습 데이터의 표절과 출처 문제도 빠져 있음.

지금 나온 증명이나 반증은 대체로 인간이 이미 쓰던 방법을 더 철저히 적용한 것 같음. 기존 방법으로 못 푸는 문제에 쓸 새 수학 방법을 AI가 만드는 능력은 아직 없고, 현 세대 모델에서 거기로 가는 경로도 모르겠음.

Tao의 말은 수학에만 해당하지 않음. 지적 작업에서 답을 내는 일과 이해를 쌓는 일을 분리해 버리는 AI의 문제가 맞다고 봄.

논픽션 책도 본래 새 생각을 만들고 나누는 매체인데, LLM이 시간당 수백 권을 만들면 돈만 빼가는 저품질 책이 인간 저작물을 밀어냄. 아마존 논픽션 신간의 80-90%가 그렇다는 얘기도 있고, 소프트웨어는 이런 속도에도 2021년과 크게 달라 보이지 않음.

그래도 인간의 이해가 꼭 필요한지 묻고 싶음. 내연기관이나 반도체를 이해하는 사람은 극소수인데, 검증 가능하고 재현 가능하며 싸게 쓸 수 있는 GPT-7급 모델이 있다면 왜 인간 집단이 전통을 이어야 하는가?

수학은 지식이 이해를 앞질러 가는 '고생산성 암흑시대'로 갈 수 있음. 논문 실적 경쟁이 그 흐름을 밀고, 이해에 필요한 기술도 잃을 수 있지만, 소규모 세부 분야와 호기심 많은 아마추어에게는 오히려 좋은 시기일 수 있음.

개인적 성장 때문에 문제를 풀고 싶은 거라면 AI가 답을 냈어도 직접 풀면 됨. Navier-Stokes를 지금 풀어도 되고 이해는 빼앗기지 않았지만, 보조금과 명성은 못 얻겠지.

이건 수학자와 AI 기업의 정렬 문제라기보다 수학자와 비용을 내는 쪽의 충돌에 가까움. 정부는 실용적 결과를 원하고, 예전에는 수학 공동체의 사회적 과정이 그 결과를 내는 필수 경로였지만 이제는 아닐 수 있음.

'정부가 실용적 목적 때문에 수학 문제를 푼다'는 전제부터 수학을 너무 모르는 말임. 정부가 무엇을 원하는지도 역사적으로 고정된 게 아닌데 그 가정을 깔고 논의를 시작하면 안 됨.

20년 교육이 이제 정당화되기 어렵다는 말과, 그런 교육을 받은 사람이 없으면 초지능 기계를 누가 감독하느냐는 말이 충돌함. Ronacher도 Astra가 뭘 하는지 모르겠다고 했는데, AI가 만든 노후 코드베이스를 다룰 사람까지 생각하면 수학도 같은 문제임.

20년 교육을 받은 사람이 능력 있는 건 그대로일 수 있음. 교육 기간은 그 능력의 원인이라기보다 결과였을지도 모름.