얀 르쿤 "AI가 인류 멸망시킬 우려 전혀 없다", 아모데이는 '현혹된 상태'라고 비판

인지 능력 논외로 쳐도 인간은 수백만 년 진화로 다리랑 손가락 효율, 내구성에서 비싼 로봇과 맞먹는 영역이 있음. 완전히 악의적인 AI가 권력을 잡아도 번식용 인간 집단은 남겨두고 좁은 공간 작업용 사이보그 노동력 원료로 쓸 가능성이 큼.

르쿤 이 사람 말이 맞는 것 같아. 월드 모델에 뭔가 있나 봄. 앤스로픽 내부 대화 들으면 진짜 재밌겠음.

그 월드 모델한테 우리가 죽을 우려는 나는 0임.

르쿤 말이 맞음. 나는 빌 게이츠 쪽인데, 게이츠는 미래 통찰로 산업을 세운 사람이고 AI는 큰 파괴자임. 10년 내 인류 멸망에 집중하지 말고 변화에 대비해야 함.

게이츠에 동의한다면서 그의 입장이랑 완전 반대인데? 게이츠는 실존적 위험을 엄청 걱정하는 사람이고 너는 그냥 무시하자는 거잖아.

멸망은 별로 안 걱정되는데 AI가 만든 사회경제적 혼란으로 우리끼리 망할까 봐 걱정됨. 다들 너무 탐욕 부리지 말자.

탐욕을 해결하기도 전에 무한한 권력을 만들고 있는데 안타까운 소식이 있음.

사람들이 AI에 판단을 맡기면서 IQ도 사회성도 떨어질 거임. 도구가 사상 최강이어도 더 멍청하고 덜 사회적인 세상은 성공하기 어려움.

그 말을 들어야 할 사람들이 그 말을 들을 리가 없음. 역사상 한 번도 없었음.

엄청난 수의 사람이 숏폼 영상과 게임으로 뇌를 마비시키고 있고, 나머지는 생계 때문에 지쳐 있음. 1800년대 산업화 때도 노동자가 임금 절반을 아편에 바쳤음. 지금은 틱톡과 메타가 그 역할이고, 캘리포니아 2027년 소프트웨어 판매세는 콘텐츠와 클라우드, AI는 면제하고 실제로 쓰는 도구만 과세함. 마취가 목표임.

인간이 참 미묘한 존재라서 20와트로 이걸 해내는 게 우주에서 제일 신기한데, 참여 알고리즘 하나로 인지 주권이 날아감. 초지능 시나리오에서 스카이넷 핵전쟁보다 무서운 건 행동 조작임.

대부분 인간을 NPC 취급하는 엘리트주의 댓글이 많네. 테크 업계 밖의 평범한 사람들이랑 실제로 얘기해 본 적 있음? 그렇게 멍청하지 않음.

나는 알고리즘보다 내 동료 인간이 더 걱정임.

르쿤은 상상력이 부족한 거임. 악한 쪽으로 더 생각해 봐야 함.

르쿤 말이 맞음. 업계에서 이 공포가 과장됐다고 말하는 사람이 나온 게 반가움. 게이츠는 에즈라 클라인 인터뷰에서 터미네이터가 진짜라고 소리치는 비기술인 같았음. 정부의 국민 억압, 브레인롯과 가짜뉴스, LLM이 사람을 대체한다는 믿음으로 인한 실업 같은 진짜 걱정을 봐야 함.

리누스 토르발스도 비슷한 입장이고 AI 매일 쓰는 일반인도 그럼. 기술 숙련도 곡선을 따라가면 재밌음.

게이츠 인터뷰 나도 봤는데 진짜 아웃된 느낌이었음. 위험한 멀웨어는 새로울 것도 없고, 위험한 이유는 똑똑해서가 아니라 작고 빠르고 전염성 있기 때문임.