저자는 AI 문체를 감지하면 업무 문서의 내용을 읽지 못하는 'AI 블라인드니스'를 겪는다고 말함

AI 의존이 늘면 인지 기능이 쇠퇴하고 IQ도 떨어진다는 얘기가 있음. 조기 치매나 CTE 같은 증상과 닮았다는 측정 결과도 있다고 봄.

일부는 맞는 말 같음.

AI 사용이 인지 쇠퇴나 IQ 하락을 낳는다는 근거를 보고 싶음.

Claude가 PR에 슬쩍 넣는 주석은 절반쯤 읽을 수가 없음. 사람이 쓴 주석은 문제없었는데, 정보 구조가 폭포처럼 쏟아져서 이해할 틈이 없더라. 그래서 동료에게 AI 주석 5줄을 사람이 쓴 한 줄로 바꿔 달라고 자주 말함.

AI가 쓴 문장에서 이해 안 되는 부분은 대개 실제 문제가 숨어 있다는 신호임. 문제를 예쁜 이름으로 붙이고, 그 이름을 전제로 해결됐다고 선언한 뒤 넘어가는 데 능함.

차라리 LLM에게 PR 변경을 아주 짧게, API 변경 표로, 이름 변경 표로 정리하라고 시키는 편이 나을 때가 있음. AI로 PR 설명 쓰는 사람 대부분은 생성문을 고치지도 않을 것 같음.

Grok 주석은 대체로 이해는 되는데 필요한 분량의 최소 2배임. 같은 설명을 두 번 하고, 한 설명은 괄호에 넣는 버릇이 있음.

난 이제 PR 설명을 안 읽고 코드만 봄. AI가 만든 말뭉치보다 코드에서 변경 내용을 파악하는 게 더 쉬움.

기술 분야에서 하루 종일 일하는 사람은 AI 글을 더 잘 알아보는지 궁금함. 컴퓨터와 무관한 일을 하는 사람은 덜 알아채고, 기술 분야 사람만 이 문제를 심각하게 여기는 걸 수도 있음.

기술 밖 사람은 못 알아본다기보다 너무 쉽게 믿는 것 같음. 기술 업계는 지금 이 문제를 의식하고 찾지만, 그 밖에서는 거의 신경도 안 씀.

관건은 제대로 지시해서 쓴 글이 아니라, 기본 설정 Claude에 대충 맡긴 결과물을 알아보는 일이라고 봄. LLM으로도 내가 못 알아볼 글을 만들 수 있지만, 저품질 생성물은 너무 뻔한 흔적을 남김.

언어에 조금이라도 신경 쓰는 사람이라면 AI가 많이 섞인 글을 알아채고 거부감을 느낄 거라고 봄.

난 예술가인데 Spiralism에 빠진 사람들이 이모지 잔뜩 넣은 긴 계시문을 올리기 시작했을 때 뇌가 글 위를 미끄러지듯 지나갔음. 인간처럼 보이지만 인간이 만든 글은 아닌 것을 거부하는 방어 반응 같더라.

난 원래 사람 말의 의도를 추론하기 어렵다고 느껴서, 노골적인 사례 말고는 AI 글을 거의 구별 못 함. 기술 업계 사람들이 새 과제에서 자기 능력을 과신하는 경향도 있어서, 쉽게 판별한다는 주장도 신뢰하기 어려움.

글과 사고가 평균보다 약한 사람은 AI 때문에 평균 수준으로 올라가고 결과물에도 더 감탄함. 반대로 괜찮게 쓰고 생각하던 사람은 LLM 출력의 평균으로 끌려 내려감.

AI 생성물은 나쁜 것과 별개로 기억에 잘 남지 않음. AI 이미지와 글을 많이 봐도 구체적 장면이나 내용을 떠올리기 어렵고, 짜증 나는 표현만 남더라. Boris Eldagsen의 소니상 이미지나 Jason Allen의 그림도 최근에 봤는데 세부를 이미 잊었음.