더글러스 호프스태터 스탠퍼드 강연, 유추를 인지와 범주화의 중심으로 설명

Lakoff 작업과 매우 비슷하게 느껴짐. 관심 있으면 그의 책 Metaphors We Live By부터 읽어볼 만함.

Lakoff는 걸프전 언어를 분석했지만, 돈 같은 단순한 문제까지 의사 지식인식 말장난으로 포장하는 건 늘 우습다고 봄.

이 영상은 아마 Hofstadter 자신의 Fluid Concepts and Creative Analogies를 바탕으로 했을 거임.

그 책은 언어에서 은유를 얼마나 자주 쓰고 사고가 얼마나 영향을 받는지 보게 해줌. 과학과 철학도 은유 때문에 잘못 이끈다는 주장은 강하지만, LLM을 의인화하거나 생물을 디지털 기계에 빗대는 지금에도 관련 있음.

영역을 여럿 알고, 특히 실무 지식이 많은 사람일수록 해결책을 찾는 자유도가 커지는 건 흔히 보임. LLM이 깊고 전이 가능한 유추를 얼마나 잘하는지가 더 궁금함.

Hofstadter를 읽어보면 더 흥미로운 질문이 뭔지 알게 될 거임.

Scott Aaronson이 지난주 Hofstadter의 지능 이론이 얼마나 버텼는지 쓴 글이 좋았음. 주로 자기참조를 다루지만 유추에도 비슷한 평가를 할 수 있다고 봄.

임베딩 공간은 애초에 유추와 밀접함. LLM이 문맥으로 다음 단어를 고른 뒤 그 단어가 붙은 문맥을 다시 평가하는 자기회귀 과정은 Hofstadter식 strange loop의 가장 기초적인 형태 아닌가 싶음.

LLM은 성능이 좋아도 거대한 맹점이 있으니 자기참조가 빠진 요소일 수도 있음. Navier-Stokes 문제를 풀어도 LEAN 증명을 설명하지 못하는 사례처럼, 유추와 자기참조가 모두 지능의 일부일 수 있음.

자기회귀가 자기참조가 아니라는 Aaronson의 구분이 잘 납득되지 않음. Conway의 생명 게임도 튜링 완전한데 왜 자기참조로 보지 말아야 하는지 모르겠고, 튜링 완전성도 부족하다면 계산 가능한 AI 자체가 불가능하다는 뜻 아닌가.

예측은 압축이고 압축은 Kolmogorov 복잡도의 상한을 찾는 일이라는 말은 너무 많은 것을 그 틀에 넣어 공허해질 수 있음. Solomonoff induction도 어떤 구조의 지능인지 설명하지 않고 가능한 기계를 전부 훑는 방식임.

Hofstadter의 strange loop와 GEB는 인지보다 의식을 다룬 것으로 이해했음. Aaronson은 의식과 주관적 경험은 여전히 미스터리라고 하면서도 Hofstadter를 인지가 자기참조에 의존한다고 읽는 듯함.

언어의 의미 공간에서 비자명한 접힘과 대칭을 찾는 일이 유추라고 봄. 단백질 접힘과 서사에도 묘한 동형성이 있다는 직관이 있고, 언어 모델에서 그런 직관이 확인되는 듯해 흥미로움.

다만 생물학과 먼 분야를 유추할 때는 조심해야 함. 단백질 접힘은 소수성 붕괴와 잔기 곁사슬 상호작용이 원인이고, 두 경우 모두 복잡계에서 많은 상호작용이 창발 구조를 만든다고 말하는 편이 더 정확함.

Nietzsche도 낯선 것을 익숙한 것으로 되돌리려는 욕구를 지식 욕구라고 썼음.