글쓰기에 AI를 거의 쓰지 말라는 글: "글쓰기 과정이 곧 사고 과정이다"

조언이 너무 뭉툭함. 나는 LLM 덕에 기술 보고서를 더 잘 쓰게 됐음. 머릿속에 선명한 아이디어는 있는데 딱 맞는 표현이 안 떠오를 때가 많은데, LLM은 표현 목록이 넓고 지치지 않아서 문장을 계속 고쳐 쓸 수 있게 해줌.

목소리가 네 것이라는 건 착각임. 네 댓글은 AI가 쓴 거라고 바로 알아봄.

"문장 하나를 너무 오래 들여다보면 빠져나오기 힘든 언어적 틀에 갇힌다"는 말이 내가 겪은 경험을 잘 표현했음. 첫 단어가 틀렸다는 건 아는데 빠져나올 방법을 모르는 상태가 되더라.

"AI 글은 모호하고 틀리는데 알아채기 어렵다"는 지적에 공감함. 회사에서 백서를 요약한다며 뿌린 AI 문장을 다시 읽고 고치느라 시간을 많이 날렸고, 뉘앙스가 교묘하게 사라져서 원래 논지를 망쳤음.

AI는 "some", "most" 같은 모호한 수량 표현을 제대로 못 다루고 심각한 논리 오류도 자주 저지름. "not X"라고 쓰면 "X의 반대가 참"으로 해석해서 쓸데없는 길로 빠지더라.

더 넓은 규칙을 제안하고 싶음. AI는 자기 생각을 더 깊이, 그리고 혼자였다면 안 갔을 방향으로 밀어붙이는 데만 써야 함.

창작이나 건설적인 산문에는 AI가 도움이 안 됨. 금방 중간값으로 수렴하고, 그 "not this but that" 식 표현은 특히 짜증남. 그래도 직장에서 전문 지식을 다른 청중용으로 쉽게 풀어 쓸 때는 쓸 만함.

슈비츠게벨이 "글을 생성하며 읽는 것과 이미 나온 글을 검토하는 것은 인지적으로 큰 차이가 있다"고 쓴 게 핵심임. LLM 출력물을 두 주 동안 검토·개선했는데, 직접 썼으면 더 빠르고 더 나았을 거라고 확신함.

대체로 동의하는데, 편집자가 "de novo"는 미국 독자에게 거슬리니 "from scratch"로 바꾸자고 할 때와 LLM이 같은 조언을 할 때 무슨 차이가 있나? 기계가 한 조언이라고 거부할 이유가 있나 싶음.

글쓰기가 사고임. 글을 써야 하는 상황에서 실제로 필요한 건 생각인 경우가 많음.

요즘 찾은 중간 지름길이 있음. LLM에게 원하는 언어가 아닌 다른 언어로 초안을 쓰게 하고, 그걸 청사진 삼아 내가 목표 언어로 직접 초안을 씀. 뇌가 꺼지는 걸 막고 모든 단어 선택을 내 것으로 만듦.

왜 다른 사람에게 글을 써달라고 하고 검토하는 걸 직접 쓰는 것과 같다고 생각하나? LLM은 의견도 지식도 없음. 그렇게 보이는 건 겉모습일 뿐임.

실질적인 글을 AI에 맡기는 대신 내 글을 비평하게 해봐. 어느 조언을 따를지는 내가 판단하면 됨. 다만 LLM은 항상 전체 재작성을 내놓는데 그건 쓰지 마, 항상 과하게 함.

사람들이 글에 AI를 쓴다는 게 이해가 안 감. 글쓰기는 단어를 하나씩 이어 쓰면 되는, 제일 쉬운 일인데.

글쓰기는 많은 사람에게 꽤 어려움. 비언어적 사고를 하는 사람이면 더 그렇고, 모국어가 아닌 언어로 써야 하면 두 배로 어려움.