웨이모식 편의가 연구 협업자를 LLM으로 대체한다는 주장

협업 연구는 실존적 안전 문제도 낳을 수 있으니, 결과를 대중에게 공개하지 않고 잠가두는 편이 낫다고 봄

AI의 주된 매력은 남이 강요하는 불쾌한 부작용을 피하게 해준다는 데 있음. 불필요하게 남에게 자신을 강요해 먹고사는 기관일수록 규제를 좋아하는 이유도 그거라고 봄

난 AI가 타인이 주는 부작용을 피하게 해준다는 말에 동의 못 함. 원치 않아도 AI 부작용을 떠안고 있고, OpenAI와 Anthropic 같은 회사가 경쟁사 규제를 밀면서 위험성을 과장하는 모습도 보임

데이터센터 앞에서 항의하는 사람이 다 관료는 아니잖아. 많은 사람이 자원 소모, 생계, 여러 작업에서 인간성이 사라지는 문제를 걱정함

난 AI를 AWS나 네일건처럼 개인을 더 유능하게 만드는 접근 가능한 도구로 봄. 개인의 역량 증대가 기관에는 위협일 수 있음

이 글 자체가 LLM이 쓴 글 같음. 제목의 'quietly' 같은 단어가 클로드식 문체에서 자주 보이는 신호임

처음 몇 문단을 Pangram으로 돌렸더니 AI 작성 확률이 100%라고 나왔음. AI가 흔한 표현을 망쳐서 사람이 그런 표현을 쓰기 어려워지는 느낌은 좀 불편함

'quietly'가 원래 저널리즘에서 쓰던 인간 문체이긴 한데, 본문에서 다섯 번 나오면 너무 많긴 함

글은 LLM에게 글쓰기를 넘기면 생각까지 건너뛴다고 비판하는데, 정작 이 글의 문장 수준을 보면 좀 아이러니함

AI가 썼는지 추측하는 것보다 글이 부정확한지, 장황한지, 쓸모없는지를 비판해야 한다고 봄. 잘 쓴 AI 글도 가능하고, 글이 나쁘면 저자가 책임져야 함

AI가 협업을 대신하면 과학의 사회적 내용과 발전 과정이 사라질 수 있음. 각자가 큰 그림 없이 섬처럼 일하게 되는 게 위험함

이 글의 정의는 표현이 잘못됐다고 봄. 사람을 상대하는 마찰을 없앤 게 아니라, 그 상호작용 자체를 없앤 것임

택시 기사와 잡담하거나 음악을 견딜 필요가 없다는 이유로 AI와 웨이모를 좋아하는 사람들을 이해 못 하겠음. 인간은 사회적 동물이고, AI도 우리 공동 데이터에 기대는데 그걸 사유화하는 건 현대판 인클로저에 가까움

택시 잡담과 음악을 피하는 건 즐겁지만, LLM과 대화하는 것과 사람과 프로젝트를 협업하는 건 동등하지 않음. 사람마다 사회적 필요도 다름

난 웨이모가 좋아서 사람과 대화하지 않는 이유도 있음. 취소하지 않고, 차에서 냄새가 안 나고, 팁이 없으며, 운전기사가 나를 낮게 평가할 걱정도 없으니까

AI로 한 사람이 더 많은 일을 할 수 있음. 협업은 비용을 늘리지만 가능한 일의 범위도 넓히니, 그 이득을 보려면 더 큰 일을 생각해야 함

또 생산량 얘기만 반복하는데, 문제는 '무엇을' 만들고 있느냐의 품질이라고 봄

오픈소스 소프트웨어도 비슷함. OSS 양은 폭증하는데 커뮤니티 부분은 같이 자라지 않음

개발자에게는 베타 테스터 없이 소프트웨어를 만드는 일과 같음. 사용자를 찾지 않으면 아무도 원치 않는 걸 만들기 쉬우니, 협업은 택시 기사와의 우연한 대화에 기대지 말고 의도적으로 해야 함

대부분의 오픈소스는 원래 자기 필요로 만든 프로그램이었고, 다른 사람이 쓰게 된 건 부수 효과였음