Anil Seth 의식은 계산보다 생명의 속성에 가깝고 의식 있는 AI를 만드는 건 나쁜 생각이라는 에세이
- Anil Seth 서식스 대학교 의식과학센터장이 쓴 이 에세이가 2025년 Berggruen Prize 에세이 공모전에서 상을 받음
- Seth는 의식이 계산보다 생명의 속성일 가능성이 높으며 의식 있는 AI를 만드는 건 나쁜 생각이라고 주장함
- 2022년 Google 엔지니어 Blake Lemoine은 LaMDA 챗봇이 의식이 있다고 주장했고 회사는 기밀 유지 정책 위반을 이유로 그를 해고함
- Geoffrey Hinton은 AI가 이미 의식을 가졌다고 보고 David Chalmers는 가까운 미래에 의식 있는 기계가 가능할 수 있다고 봄
- 의식 있어 보이는 기계를 사람들이 믿으면 심리적 취약점이 악용되고 윤리적 우선순위가 왜곡될 수 있다고 경고함
Hacker News opinions
의식은 증명하는 게 아니라 부여하는 거임. 누구한테 줄지는 신중해야 함
부정할 때도 신중해야지. 그리고 우리 의식은 누가 준 건데?
이건 좀 나쁜 논리임. 속성은 내가 인식하든 말든 있거나 없는 거임. 우리 집 개가 의식이 있는지는 내가 믿는 거랑 별개 문제임
진화가 의식 있는 존재를 골랐으니 AI도 의식이 생길 수밖에 없다는 건 약함. 적합성은 환경마다 다르고 AI는 멘델 유전을 따르지도 않음
LLM은 자기인식 의미로는 이미 의식이 있다고 봄. 근데 퀄리아는 다른 얘기임. 나는 LLM 경험이 점균류 쪽에 가깝고 우리 것보다 훨씬 휘발성일 거라고 생각함
'생명의 속성'이라는 전제부터 틀렸음. 박테리아랑 곤충은 대부분 의식이 없을 텐데 그 말도 근거가 약함. 저자는 생명이 필요조건이라고만 했지 충분조건이라고 한 적 없음
의식이 공학 문제라는 말은 과하다고 봄. 과학적으로 풀릴 문제인지도 아직 불확실함