AI 도입한 과학자들 생산성은 올랐지만 연구 아이디어의 다양성은 좁아졌다는 연구 결과

AI가 어떻게 돌아가는지 아는 사람한텐 하나도 안 놀라운 결과임

'인류가 이미 한 것들을 기반으로 만든 기술은 인류가 아직 안 한 것들을 못한다' 이 말이 당연해 보이지만 사실 많은 사람한텐 반직관적일 수 있음

LLM이 단순히 데이터를 '평균화'하는 게 아니라는 최근 뉴스들도 있는데 그거 보고 있는 거 맞음?

아인슈타인 발견도 결국 인류가 이미 해놓은 것들 기반이었잖아. AI는 인간이 안 해본 걸 하루에 수백만 번씩 하고 있음

AI로 인한 발견의 평탄화는 일시적일 거라고 봄. 새 기술이 실제 잠재력을 발휘하기까지는 항상 수많은 적응과 임계점 통과가 필요하고 그 과정에서 생산성 손실이 따르는 법임

아니 이건 훨씬 더 영구적인 문제임. LLM은 현재 컨텍스트 기반 자동완성기일 뿐이고, 사람들이 스스로 생각하는 법을 안 배우고 계속 AI한테 물어보게 훈련되면 인간 지식에 영구적 한계가 생길 수 있음

리처드 서튼은 LLM에서 새로운 게 나오는 건 원천적으로 불가능하다고 주장함

'중요한 건 아키텍처가 아니라 인센티브다'라는 말이 나오는데, AI 도입 전부터 덜 독창적인 연구가 더 많이 인용되는 트렌드가 있었는지 체크했어야 함

논문에서 이미 그거 체크했고 이 트렌드가 수년간 악화돼왔다고 명시적으로 설명함, 특히 검색엔진 등장을 주요 전환점으로 지목함. 논지를 완전히 잘못 짚은 거임

AI는 원래 있던 걸 그냥 증폭시키는 거임. 많은 과학자들의 진짜 목표는 발견 자체가 아니라 출판이고 유명해지는 거고, 발견은 그저 부산물일 뿐임

반대로 볼 수도 있음. 많은 과학자들의 목표는 발견이고 출판은 생존과 펀딩을 위한 잡무일 뿐이라, 서류작업 자동화하면 발견할 시간이 더 늘어남

창의성은 정의상 자동화될 수 없고 AI는 그냥 뛰어난 자동화 기계일 뿐임. 창의성은 감각적 경험이 필요한 '생각할 수 없는 것을 생각할 수 있게' 만드는 거고, LLM은 학습된 벡터 공간에 갇혀 있어서 새로운 독립 차원을 못 만듦

진화가 만든 자동화된 창의성이 바로 인간임. 그러니 창의성도 자동화 가능하다고 봄

AI 나온 지 이제 겨우 2년 정도인데 이런 결론 내리긴 너무 이른 거 아님?

이런 결론 낼 정도면 세계 자본의 절반을 데이터센터 짓는 데 쏟아붓는 거 재고해봐야 하는 거 아닌가 싶음