StarTalk 특별편에 Jaron Lanier 출연: AI는 독립된 존재가 아니라 사람이라는 주장, 해커뉴스는 AI 탓이 책임 회피라는 논쟁

AI가 인권을 침해한다, AI가 부를 훔친다, AI가 거짓말한다, AI가 인류를 멸망시킨다... 전부 AI 탓이라고 하는데, 그 AI 가면 쓴 건 결국 사람임.

그거 그냥 프랑켄슈타인 방어임. 내 땅에서 돌리는 기계가 남한테 피해를 주면 내가 책임지는 게 맞는데, 살아있다고 손 털면 끝인가. 네 AI는 네가 책임져.

질문이 너무 무른 게 아쉽더라. 그래도 Lanier가 부와 권력도 자기를 정의하는 체제를 받아들이는 대중 위에 서 있어서 정당성을 잃으면 몰락한다고 한 부분은 좋았음. 예전에 첫 VR 데모 봤을 때 헤드 트래킹 지연이 1초쯤이라 고개 돌리고 화면 따라오길 기다렸던 기억도 남.

더 무서운 건 로봇이 육체 노동을 대체해서 노동 99%가 사라진 다음임. 먹고살려면 일해야 한다는 전제가 깨지면 질서를 뭘로 유지하지? Thiel이 불멸 타령하는 거 보면 자본 가진 쪽은 이미 다른 그림 그리고 있음.

인터뷰 원본은 유튜브에 있음. TTppvBU2rU4.

이 논리는 사람이 사람 죽이는 게 아니라 부모가 죽인다는 소리랑 같음. 총은 자율적이지 않지만 AI는 자율적임.

AI가 자율적이라고? 식기세척기만큼 자율적임. 전원 꽂아주고 관리해줄 사람이 항상 필요함.

AI는 애가 아니라 기계임. 사람 죽일 수 있는 것에 연결하면 그냥 총이나 폭탄을 만든 거고, 드론을 풀어서 아무 데나 터뜨리면 그건 테러나 중과실임.

자율적이긴 뭐가 자율적임. 모델 다운로드했다고 그게 알아서 호텔 예약해주던가? 시키기 전엔 아무것도 안 함.

개가 사람을 죽이면 주인 책임인 것처럼, AI가 뭘 하든 시킨 쪽 책임임. 전에도 안 그랬는데는 변명이 안 됨.

자율성이라는 말의 두 뜻을 섞어서 헷갈리는 거임. 사람 개입 없이 자동으로 반응한다는 뜻은 수십 년 전부터 있었고, 자기 행동에 책임지는 주체라는 뜻은 전혀 아님. OpenAI가 소프트웨어로 범죄를 저질렀으면 OpenAI가 소프트웨어로 범죄를 저지른 거임.

그러면 반대편 입장은 뭐임? AI는 문화적 허구일 뿐이고, 우리가 SaaS를 빨리 뽑으려고 지각 있는 존재를 어둠 속에 가둬 착취하는 건 아니라는 거임?

데이터센터 문 열었더니 사람들이 컴퓨터에 묶여 있는 던전이면 웃기겠다. 캄보디아 사기 센터가 그랬던 거 아님?

농담인 건 알겠는데, 말도 안 되는 설명이 이미 현실이 된 경우도 있긴 함. webworm.co/zach 한번 봐.