케빈 켈리의 2016년 AI 예측, 10년 뒤 얼마나 맞았나

1999년 Kurzweil 책 보면 거의 다 맞췄는데, 빗나간 건 기술이 없어서가 아니라 사회가 채택을 안 해서임. 그게 제일 웃긴 포인트임.

그건 맞는데 이익 추구 동기가 막은 경우가 많음. 화성 식민지 예측도 기술은 있는데 정치 우선순위 때문에 못 간 거라서, 예측이 결국 사람 결정에 묶여 있더라.

도메인마다 다른 것 같음. 컴퓨팅 쪽은 괜찮은데 생물학이랑 수명 쪽은 많이 빗나감. 평균 수명 100년 넘는다는 예측은 이미 지났는데 안 맞았음. 지수적 컴퓨팅 발전을 생물학에 그대로 갖다 붙인 게 실수 같음.

Dan Luu 평가 보면 Kurzweil 예측 중에 끔찍한 것들이 엄청 많음. 4년 전 글이라 지금은 좀 가까워진 것도 있는데, 2000년대 초 예측은 아직 안 온 게 많더라.

나는 Kurzweil의 오만함 때문에 처음부터 별로 안 믿었음.

임의로 16개로 쪼개보니까 8개 정도 맞는 것 같음. 나쁘진 않은데 제목처럼 Inevitable은 아님. 그래도 사용자 기반 네트워크 효과 예측은 깔끔한데 왜 안 나왔는지 궁금함. 인터넷 스크레이핑이 쉬웠던 건지, distillation 때문인지 모르겠음.

50% 아님? 2026년에 뭐 된다고 찍고 동전 던진 거랑 같은 확률임.

아직 초기라 그럼. 왓슨이 세계 시장에 컴퓨터 5대면 된다고 했던 것처럼 될 거임. 지금 에이전트는 개인정보 털어가는 수준이라 2년만 더 보자.

구글 주력 제품은 예나 지금이나 광고 아님? 사용자가 메인인 게 아니라 광고가 매출원이잖아.

B2C 제품 얘기로 본 것 같음. 매출이 광고에서 나오는 거지, 구글 광고를 직접 사는 사람은 주변에 거의 없더라.

틀린 예측도 같이 봐야 생존 편향이 없음. 진짜 선택 편향은 예측자를 고르는 데 있는 것 같음.

The bulk of AI 예측이 Bitter Lesson보다 더 맞은 것 같음. LLM은 차 운전 안 하고 Stockfish가 최신 LLM을 체스에서 아직 이기잖음.

지금은 그렇지만 범용 AI가 특수 모델을 계속 이기는 추세임. GPT 5, 6이 OCR에서 Mistral 모델보다 낫더라.

Bitter Lesson 핵심은 대형 Transformer가 최고라는 게 아니라 계산량 늘리면 같이 커지는 검색과 학습 방법이 강하다는 거임. 체스 얘기가 본문 둘째 단락에 나옴.

AI라는 말은 사람처럼 보이는 시스템에만 붙는 것 같음. 자율주행이나 SLAM 경로 계획은 2010년엔 AI라고 불렀을 텐데 지금은 자동화라고 부르더라.