AI가 만든 수학을 어떻게 공개할까: 수학계가 AI 랩에 독점 모델 테스트 중단과 3원칙을 요구

수학은 플라톤 세계에 그냥 있는 거라 누구나 마음대로 다뤄도 되는 건데, 이걸 그만두라고 요청하는 건 숨 쉬는 방법을 통제하겠다는 거랑 비슷해 보임. 출처 표시는 이해하지만 이 요청은 그 선을 넘었음.

수학자들 사이에서도 너 혼자 그렇게 생각하는 거 아님.

인간은 예전부터 생각 자체를 금지하려 해왔음.

화학 물질도 다 자연에 널려 있고 누구나 쓸 수 있는데, 과염소산암모늄에 과산화물 섞는 것도 그만두라고 할 수 있나. 같은 논리임.

공기는 무료고 대체 가능한 자원이지만 AI 랩은 막대한 자본과 컴퓨트로 만든 비공개 모델을 돌리고 있음. 자문단이 비구속적 조언을 하는 걸 게이트키핑이라고 부르는 건 핵심을 놓친 거임.

수학자를 다른 직업보다 AI로부터 더 보호해야 할 이유가 있나. 모두 아니면 아무도 아니지, 형평성 측면에서도 이상함.

게이트키핑 맞음. 글 초반부터 그게 티가 남.

'독점 모델'이라고 못 박은 게 포인트임. 열린 모델도 1년쯤이면 이 수준에 오고, 그럼 이 논의는 의미가 없어짐.

돈과 컴퓨트가 몇몇 랩에 쏠리면 정작 기초 연구하는 사람들은 굶게 됨. 빅AI가 수학을 망칠 수 있음.

독점 모델의 진짜 문제는 내부를 볼 수 없다는 거임. 수학적 이해는 결과 자체보다 그 결과로 가는 방법에서 나옴. 중간 추론 과정을 볼 수 없으면 신탁이 답을 준 거랑 다를 게 없음.

인간적 요소가 있다고 목소리 내는 직업이 AI 시대에 더 잘 버팀. 작가나 음악가는 이미 AI를 배척하고 있고, 미술 포럼에 AI 그림 올리면 뜯겨 나감.

Noam Brown은 모두가 쓸 수 있는 좋은 모델을 내놓는 게 목표라고 했는데, 내부 모델로 $15M어치 컴퓨트를 태워 네비어-스토크스 해법을 선점한 건 정반대임. 내부 모델을 쥐고 수학의 일부를 독점하는 행동이 이 권고가 나온 이유임.

법도 그냥 문자일 뿐이지만 변호사 시험 없이는 못 함. 의사, 기자, 전기기사도 면허가 필요하고, 수학도 비슷하게 볼 수 있음.

기계 자동화를 인간의 이해 속도에 맞추자? 그 상한선이 너무 낮음. 동의 못 함.

AI가 푼 문제가 중요하다는 걸 알려면 수학자가 필요함. 유명한 추측은 수십, 수백 년의 사회적 관심이 만든 구성물이라, 그게 없으면 미래 수학은 Lean 문장 테이블만 뽑아내는 일로 전락할 수 있음.

그건 표본 편향일 수도 있음. 인류는 3000년 걸렸고 AI 수학자는 한 달 남짓임. 시간을 주면 중요한 미해결 문제도 만들어낼 거임.

이 논문은 AI 회사가 인간 수학자에게 돈을 대서 AI가 만든 걸 이해하라고 요구함. 꽤 특이한 요구임.

$10M 들여 에이전트 10000개로 수학 문제를 풀었다면, 나온 결과를 소화할 그랜트 정도는 대는 게 합리적임. PhD 학생 그랜트가 실리콘밸리 연봉보다 훨씬 싸고.