울프럼, AI가 수학을 대신한다는 주장에 1988년 Mathematica 사례 들어 반박

과거 경험을 근거로 드는 논리 말인데, 그 경험이 절대 진리도 아니고 지금 상황이랑 같다고 볼 수도 없지.

핵심은 이 상승세가 계속되느냐임. AI 회사들이 모델을 더 다듬을 사람 트레이너가 바닥나는 시나리오도 충분히 가능하고, 진짜 초지능 문턱에 와 있을 수도 있고.

저자가 직접 읽은 영상도 있더라. Wolfram 언어 얘기가 계속 나옴.

TL;DR이 절실한데, 요약하면 증명이나 계산 같은 수학 자체는 AI가 해도 왜 하는지, 어떤 문제를 풀지는 인간이 정한다는 거임. 근데 그 문장에 오타가 있어서 비교 양쪽이 다 AI로 쓰여 있음.

학습 데이터가 과거에만 있으면 AI가 어떻게 앞을 보냐는 문제가 남지. 인간 수학자를 밀어내면 미래 학습 데이터의 씨앗을 먹어치우는 셈이고.

5년 10년 뒤에 프런티어 수학을 하는 게 AI뿐이면 그걸 깊이 이해하는 사람의 임계 질량은 어떻게 유지할 건지 모르겠음. 결과만 대충 파악하고 기계 검증에 맡기는 세상이 올 수도 있고.

AI 때문에 투고량이 늘어서 거절도 늘었음. 프런티어 모델도 작은 추측 증명은 여전히 어려워하고 프롬프트나 문제 유형에 따라 편차가 큼. 논문 찍어내기는 쉬워졌지만 저널 게재가 쉬워진 건 아님.

AI는 생각하는 기계라기보다 인간 지식 데이터베이스에 가깝다는 대목은 맞음. 수백만 권을 압축해서 질의하는 건 유용하지. 생성 AI는 챗봇이지 수학봇이 아님.

그건 좀 구식 관점 아님? 추론 모델은 실제로 생각하고 새로운 문제도 푸는데, 애초에 이 논쟁이 시작된 게 인간이 답을 모르던 밀레니엄 문제를 AI가 풀었기 때문임.

LLM이 학습 데이터에 없는 결과를 내놓고 있으니까 이 얘기를 하는 거지. 압축된 데이터베이스라는 비유로는 설명이 안 됨.

Mathematica가 독점이라 회사가 사라지면 형식화된 증명을 다시 검증할 수 없다는 게 걸림. Lean은 특정 버전을 아카이브해두면 언제든 검증 가능한데.

저자가 강조하는 건 결국 수학의 목표가 인간의 이해라는 점임. 네 색 정리처럼 기계가 만든 증명은 시스템을 믿는 만큼만 믿을 수 있고 이해를 넓혀주진 않음. 정의와 개념을 그대로 둔 채 증명 탐색만 무한히 돌리면, 그 증명이 너무 길고 기계적이라 인간 계보가 우주 끝까지 읽어도 못 끝낼 수 있음.

인간의 이해 타령은 좀 글쎄. 수학자 집단이 뭔가를 이해하는 게 나머지 인류한테 무슨 가치가 있냐는 질문에는 답이 없음. 수학 박사 과정을 거의 끝낸 사람으로서 하는 말인데, UBI 같은 게 없으면 왜 지원해야 하는지 설명이 안 됨.

글의 전제 두 개가 다 흔들림. 어떤 수학이 쓸모 있는지 고르는 일도 AI가 상당히 할 수 있고, 인간이 이해 가능해야 한다는 조건도 지금은 필요해 보여도 몇 년 뒤엔 제약으로 남지 않을 수 있음.