LLM 의존을 전염 모델로 본 논문, 임계점 뒤 인지 능력 급락 가능성 제시

논문 저자와 같은 팀에서 일하는 내 지도교수가 있음. 흥미로운 작업임.

기술을 잘 모르는 사람이 AI를 말할 땐 좀 거리를 두고 봐야 한다고 생각함. 능력과 쓰임새가 너무 빨리 바뀌니 연구는 선행 지표보다 후행 지표가 되기 쉬움.

여기서 바이러스는 비난이 아니라 단순한 밈과 구별되는 사회적 전파 메커니즘이라는 뜻임. 업계 내부자 말만 듣지 말고 외부 관찰자도 필요함.

비유가 비기생적이라는 말과 별개로, LLM은 인간이 만든 텍스트를 학습해 인간에게 받아들여질 출력을 만들려 함. 서비스 기업들이 에너지와 물, 자본과 인력을 끌어쓰는 방식도 기생적으로 볼 여지가 있음.

내가 LLM을 오래 쓸수록 출력이 인간보다 다른 LLM에게 읽히기 좋게 변하는 느낌임. Opus와 Fable은 문맥을 조각내고 이야기 끝처럼 시작하는 글을 자주 써서 '인간이 읽을 수 없다'고 다시 지시하게 됨.

AI가 시스템과 인프라의 큰 부분을 대신 이해하면서 생기는 '인지 부채' 비용을 수치화해야 한다고 봄. 그래야 어떻게 줄일지 논의할 수 있음.

LLM은 잘 다루는 사람에게는 좋은 도구지만, 의존하는 사람에게는 목발임. 쓰지 않겠다는 사람에게까지 다들 쓰라고 압박하는 분위기는 컬트처럼 느껴짐.

유럽 기관에서 이런 논문이 나오는 건 놀랍지 않음. 유럽은 뒤처질 운명임.

공동 저자는 유럽뿐 아니라 미국과 일본 기관에도 있음. 그리고 채택에 거의 시간이 안 드는 기술로 어떻게 내가 영구히 뒤처진다는 건지 모르겠음. 필요하면 LLM에게 따라잡게 해달라고 하면 됨.

자동차도 우리가 의존하니 바이러스인가? 그렇다면 자동차 사용도 되돌릴 수 있게 해야 하나? 요리도 없으면 살기 어려운데.

자동차 의존도 되돌릴 수 있게 해야 한다고 봄. 실제로 자동차를 덜 쓰는 곳은 삶의 질과 행복도가 높고, 운동량도 늘어 건강에 이득이 있음.

이번 자동화는 좀 다르다고 느낌. 인간이 우세했던 이유는 이동이나 조리가 아니라 사고 능력인데, 사고 대부분을 LLM에 맡기면 종으로서 취약해질 수 있음.

인간은 요리라는 문화 기술에 소화를 많이 넘긴 탓에 진화 시간으로는 생고기 소화 능력을 잃었음. 사고에서도 같은 일이 벌어지는 미래를 원하는지 묻고 싶음.

바이러스라는 틀은 자극적이고 호의적이지 않게 들림. 아이디어 교환에 관여하는 건 거의 다 진화생물학 관점에서 바이러스로 볼 수 있고, 문화·마케팅·종교·교육·선전도 마찬가지임.

밈이 바로 지금 말하는 대상임. 하지만 질병으로 비유하는 틀은 '우리의 계몽된 생각과 그들의 위험한 선전' 같은 식으로 흐르기 쉬워 불편함.