Doctorow, AI 역설의 답은 '리버스 켄타우로스' 개념이라 설명
- 코리 닥터로우가 Locus 칼럼에서 AI가 어떤 이는 지옥 같은 경험으로, 어떤 이는 삶을 개선시키는 도구로 느끼는 역설을 켄타우로스와 리버스 켄타우로스 개념으로 설명함
- 켄타우로스는 인간이 기계를 도구로 부리는 관계, 리버스 켄타우로스는 기계가 인간을 자신의 도구로 부리며 인간이 그 실수의 책임만 뒤집어쓰는 관계라고 구분함
- 허스트 발행 여름 도서 가이드 사건에서 프리랜서 작가 한 명이 원래 인턴 3명과 경력 기자, 팩트체크 부서가 담당하던 64페이지 분량 작업을 AI로 혼자 떠맡았고, 결국 존재하지 않는 책 목록을 실어 여론의 뭇매를 맞음
- 저자는 자신이 팟캐스트 인용문을 찾기 위해 오픈AI의 오픈소스 음성 인식 모델 Whisper로 30시간 분량 오디오를 스스로 통제해 처리한 경험을 켄타우로스의 예로 제시함
- 댄 데이비스가 만든 용어 책임 흡수 장치(accountability sink)를 인용해, AI의 실수에 대한 비난을 대신 떠안는 인간 노동자의 처지를 설명함
Hacker News opinions
원본 pluralistic 링크보다 medium 링크가 폰트 때문에 읽기 편함
난 모바일로 읽는데 오히려 pluralistic 링크가 더 좋더라
reverse centaur 개념 정치 군사 종교 조직도 원래 인간을 부품처럼 써먹던 거 아니냐, 우린 리더에게 이끌리길 바라는 로렌츠의 거위 같은 존재임
니체의 위버멘쉬가 그 machine의 자리일 수도 있음, 우리가 그렇게 길들여진 것도 사회가 우리를 소나 칠면조처럼 선택 교배한 결과일 수 있음
좋은 비유고 통찰력 있는 글임, 버블이 급격히 터지기보다 천천히 빠지길 바람
There is no alternative라는 대처리즘식 무기력 프레이밍이 진짜 문제임, HN에서도 다들 무력하다는 말만 하고 행동 얘기하면 공격받음
공허한 you can just do things 같은 말은 감흥 없음, 구체적으로 뭘 할 수 있는지 예시를 보여줘야 함
믿음이 필요조건일 수는 있어도 충분조건은 아님, 절망이 신념 부족 때문이라고 단정하는 건 너무 가혹함
저자는 자기 직업엔 AI 쓰지 말라면서 오픈소스 해커들은 AI로 대단한 일 한다고 하는데, 오픈소스 현실은 다들 AI로 표절만 하고 있는 거 아니냐
오픈소스에서 AI로 진짜 어려운 일 하는 사람들 많음, HN에 관련 사례 링크도 있음
버블 터지면 파운데이션 모델이 아예 못 쓰게 된다는 주장은 틀렸음, 오픈웨이트 모델들이 이미 경쟁력 있고 GPU 흔해지면 더 잘 돌아갈 거임
그건 저자가 이미 말한 내용임, 큰 파운데이션 모델을 화석연료처럼 보고 버블 터진 뒤엔 그 모델들을 증류하고 리믹스해서 쓰게 될 거라고 했음
이 사람 2014년부터 AI 버블이라고 계속 떠들었는데 왜 아직도 신뢰받는지 모르겠음, 버블이란 말만 15번 나옴
버블이라고 예측한 사람들 다 이런 취급 받다가 터지면 그제서야 맞았다고 함
닷컴버블 때 마이클 버리도 2005년에 CDS 사고 몇 년 지나서야 맞았다는 게 증명됐음, 몇 년 걸려도 이상한 거 아님
Doctorow가 낸 책 The Reverse Centaur's Guide to Life After AI 읽어봤는데 별로였음, 너무 저널리즘 업계 얘기에만 치우쳐 있고 AI와 권력의 관계는 제대로 안 다룸
AI가 기업의 개인 감시와 통제를 더 저렴하게 만든다는 부분이 빠졌음, 동독 슈타지도 인구 10%가 동원됐어야 가능했는데 AI 덕에 기업이 그 정도 감시를 싼값에 할 수 있게 됨