가워스, 필즈상 수상자 25인 AI 성명서 서명 거부… "위기라는 데는 동의하지만 분석이 다르다"

진리는 북극성이어야 함. 수학으로 찾을 수 있는 근본적 진리가 있다면 최단 경로를 택하는 게 맞지. 다만 LLM의 즉각적인 참/거짓 결과가 전통적 탐색 경로를 단락시킬 수 있다는 지적에는 동의함

성명서의 핵심은 그런 그라디언트 탐색 전략을 택하면 인류가 영원히 지역 최댓값에 갇힐 수 있다는 경고였음

"근본적 진리"가 대체 뭔데? LLM이 증명된 사실 모음을 뱉는 건 근본적이라기엔 아닌 것 같은데

성명서의 암묵적 요점은 미해결 문제가 하늘에서 떨어지는 게 아니라 사람들이 시간을 들여 공유한 자원이라는 것임. AI 기업은 자연자원, 문학, 예술, 코드를 대하듯 문제를 빨아들여 이익으로 토해내고 수학이 발전하는지엔 관심이 없음

작성자가 서명 안 한 이유는 결국 AI 기업이 너무 빨리 해를 생성한다고 비판해도 얻을 게 없다는 거임. 단기 문제로 보고 최선의 대응을 찾자는 건데, 도구가 이미 존재하는데 매번 드라마를 만들 필요가 있나

그 논리는 이해가 안 됨. 미해결 문제는 다른 문제를 풀다 발견되기도 하지만 결국 실제 문제를 풀기 위한 것임. AI가 아무리 똑똑해져도 실제 문제는 무한하니 미해결 수학 문제도 계속 생김

Timothy가 Scott Aaronson처럼 AGI를 체감하기 시작한 것 같음. Jacob Tsimerman처럼 AI 안전을 연구하거나 정치에 영향력을 쓸 수도 있고

좀 실망스러움. 성명서는 오히려 pro-AI 입장인데, 서명 안 한 이유가 너무 미묘함. 이해를 목표로 하지 않는 사람들을 불편하게 하고 싶지 않다는 건데, 결국 광학 문제에 가까움

정리 증명은 새 산 등반 같은 것임. 산은 이미 있고 가장 어려운 산 목록도 있지. 비행기로 정상에 내려서는 게 아니라 인간의 등반 능력을 키우는 게 요점임. LLM이 증명하면 새 산의 정상이 어떤지 아는 것일 뿐, 인간의 이해로 분야를 발전시키려면 등반가가 여전히 필요함

왜 정부가 돈을 대야 하는 거임? 역사적으로 인간 이해는 사회적 권력 같은 목적을 위한 수단이었음. 증명이 어딘가 개선을 낳으면 그걸 쓰면 되고 루프에 인간이 있을 필요는 없음

AI가 노동을 불필요하게 만들 때 사람들이 뭘 하느냐는 문제의 축소판임. 소프트웨어 엔지니어링에서 주니어 채용이 줄어 사다리가 끊기듯 수학계 사회구조도 침식될 수 있음

그 사회 변화는 선진국 문제라는 걸 염두에 둬야 함. 어린이가 코발트 광산에서 일하는 상황이 대체되려면 아직 한참 걸림