AI 연산 공세에 수학자들 "연구 방향 숨겨야 하나"... 타오 "희소 자원은 이제 문제 발굴"
- 수학이 다시 비밀주의 시대로 가는 걸 막을 수 있느냐는 MathOverflow 질문이 화제. 테렌스 타오는 이제 희소한 자원은 해법이 아니라 좋은 문제를 찾아내는 것이라며, 누군가 그 문제를 붙들고 있다는 소문만으로 대규모 AI 연산이 투입돼 원래 연구가 완성되기 전에 평정된다고 지적함
- 네이비에-스토크스 반례 주장에 들어간 연산 비용 추정치는 Capital&Compute $6.5M, TensorFeed $10
15M, Business Insider $1040M. 개인은 감당할 수 없는 규모라 인프라 자체가 자본으로 막혀 있음 - 1510년경 삼차방정식 해법을 찾은 델 페로는 20년간 숨기고 죽음에 이르러서야 제자에게 알려줬고, 뉴턴도 미적분 공개를 미뤄 라이프니츠와 우선권 분쟁을 겪음. 당시엔 지식이 생계 수단이라 비밀이 합리적 선택이었음
- LLM이 내놓는 증명은 Lean 형식화까지 붙일 수 있어 '증명 경제의 붕괴'라는 표현까지 나옴. 문제는 인간이 이해할 수 없는 AI 슬롭 증명을 어떻게 처리할지임
Hacker News opinions
연구 데이터를 AI 학습에 쓰는 것과 다른 연구자가 쓰는 건 법적으로 완전히 갈라야 함. 공유와 사용 절차를 만들고 강제할 단일 과학 기구가 필요함
그 조항 넣어봐야 소용없음. 정보는 자유로워지게 돼 있음. 프런티어 LLM 업체들이 프롬프트를 학습에 안 쓴다고 계약으로 보장하는 기업용 라이선스를 팔고 있으니, 신경 쓰는 학교는 그걸 사거나 자체 오픈웨이트 모델을 돌려야 함
그 법적 프레임워크가 양방향으로 적용되나? AI 기업이 AI로 수학적 발견을 해서 발표하면, 그걸 수학자가 쓰지 못하게 막을 수 있게 되는 건가?
대학이 오픈소스 모델을 직접 호스팅하면 됨. 개인 수학자는 돈이 없어도 학교는 감당할 수 있음. 요즘 코딩 에이전트처럼 작은 수학 특화 에이전트가 나오면 개인 호스팅도 가능해질 거고
간단함. 발표 안 하면 자금 안 줌. 왜 이게 고민거리인가
문제는 발표 전 협력 단계임. 다들 중세처럼 숨길 거고, 안 그러면 큰 회사가 가져가서 자기 것이라고 주장하니까
AI 기업을 법 위에 있는 존재처럼 취급하는 건 망상임. 제대로 규제하고, 수학자들은 일반인이 못 쓰는 정교한 도구를 훨씬 잘 써야 함. 슬라이드룰 고집하면 못 따라감
그 규제하자는 얘기는 현실성 없는 사회주의 헛소리 아님?
우울한 사람한테 그냥 우울하지 말라고 하는 거랑 같음. 존중과 존엄으로 대하고 착취 대상으로 보지 않는 게 답임
유튜브 AI 슬랩이랑 똑같은 문제임. 동영상 아이디어를 트윗하거나 노래 몇 마디 흥얼거리면 한 시간 안에 27명이 AI로 베껴서 올림. 도둑한테 선수를 뺏기는 건 더 우울함
우리 회사에서도 벌어지고 있음. 팀 사이뿐 아니라 팀 안에서도. AI 이전에도 그런 건 있었는데 지금은 훨씬 심해짐
몇 년은 신경 끄고 지켜본 뒤 진짜 문제인지 확인하자. 지금은 참여 유발용 패닉일 수도 있음
걱정이 두 개임. 인간이 다 이해 못 할 만큼 프런티어 수학이 쏟아질 거라는 것, 그리고 프런티어 수학이 전부 비밀로 남을 거라는 것. 이 둘은 동시에 일어날 수 없음
아니 둘 다 동시에 최악으로 일어날 수 있음. AI가 만든 결과가 쏟아져서 진짜 프런티어 수학자를 식별하기 어려워지고, 훈련된 프런티어 수학자는 귀해지는 상황 말임
대학이 교수와 학생에게 자체 LLM을 제공해야 함. 공용 LLM에 연구를 넣으면 안 되고, 대학이 오픈 모델 연구에 나서서 데이터마이닝 안 되는 모델을 제공해야 함
대학의 주 수입원인 학생이 사라지고 있고, 학교 IT는 부서별로 사일로가 심해서 그렇게 되긴 힘들 듯