테렌스 타오 블로그에 '수학·AI 자문단' 출범, OpenAI가 보고한 미공개 수학 결과 공개 방식을 자문
- 테렌스 타오 블로그 게스트 포스트로 수학·AI 자문단(AGMAI) 출범이 공지됨. 프린스턴 IAS에 자리를 두고 agmai.org에서 온라인으로 활동함.
- 구성원은 9인으로 에드워드 위튼, 마틴 하이러, 티모시 가워스, 라비 바킬, 멜라니 매쳇 우드 등이 포함됨. 보수를 받지 않고 어떤 AI 기업과도 독립적으로 운영됨.
- OpenAI가 외부 자문단 구성을 일부 구성원에게 먼저 제안했고, 이에 동의해 독립 그룹을 만들고 다른 수학자들을 초청함.
- 현재 임무는 OpenAI 내부 모델이 만들어냈다고 보고한 대량의 주요 수학 결과 공개를 어떻게 조율할지 자문하는 것. 결정권은 없고 결정의 책임은 각 기업에 있음.
- 수학계 의견을 agmai.org/input 설문으로 급히 모집 중이며, 응답은 동의 없이 공개하지 않음.
Hacker News opinions
수학자들 진짜 대단하다는 생각 들었음. AI 러시를 겪으면서 이렇게 침착하게 모여서 상황을 정리하고 제안까지 내놓는 커뮤니티는 처음 봄. 기계 신 숭배하지도 않고 LLM한테 욕만 퍼붓지도 않더라.
맞음. 수학은 한 줄 한 줄 증명해야 하는 분야라 규율이 문화에 배어 있어서 그런 반응이 나오는 듯. 코드 품질 같은 게 주관적인 다른 분야랑은 다름.
"인간적"이 항상 좋은 뜻은 아님. Anthropic이나 OpenAI 행사 참여가 나중에 평판에 악영향을 줄 수 있다는 공개서한도 나왔음.
수학자 입장에서 좀 실망스럽다. 다들 수학이 끝났을 가능성 자체를 고려하지 않는 것 같고, 2018년에 이미 이 단계를 예측했는데 너무 sour grapes처럼 들림.
다리오한테 아이디어 주지 마라. 다음 주에 "수학자들 해결됨" 나오면 웃기지도 않음.
우리 회사 3D 디자이너들은 훨씬 잘 적응하고 있음. GPT-6 Astra가 만들 변화에 대비하는데, 수학보다 훨씬 추상적이지 않은 문제라 더 힘든 상황임.
수학은 사고가 본업이라 다른 분야보다 감정이 덜 들어가는 것뿐임. 그게 결과를 더 낫게 만드는지는 아직 모름.
수학계 전체가 이렇다고 보긴 어려움. 포럼마다 부정적인 반응도 많고, 소프트웨어 엔지니어들은 코딩 에이전트 매출 폭증에서 보이듯 훨씬 광범위하게 적응했음.
AI 회사들이 AI가 인간보다 뛰어나다는 걸 보여주는 PR 도구로 수학을 쓰는 게 핵심임. 오늘 OpenAI가 열린 문제 100개를 풀었다고 발표하면서 문제가 뭔지는 안 밝혔음.
체스나 바둑 기사들이 어떻게 적응했는지 보면 참고가 됨. 이세돌은 은퇴했음.
수학 문제는 진공 속에 있지 않음. 발견을 홍보 스턴트라고 부르는 건 이상하고, 그 결과로 이득 보는 사람들은 어떻게 찾았는지 신경 안 씀.
그 OpenAI 발표가 바로 이 그룹 관련임. 자문단은 100개 넘는 결과를 공개해야 할지, 한다면 어떻게 공개할지 판단하는 역할임.
벤치마크로 수학 문제를 쓰는 건데, 수학계 반발 이후로는 커뮤니티가 공개 방식을 정해줄 때까지 결과를 쥐고 있으려는 것임. 어차피 모델 나오면 누구나 할 수 있으니 시간문제임.