AI 시대에 글쓰기가 가장 안전한 일자리라는 주장, HN은 시장 가치와 문체 한계로 반박

일상적인 카피라이팅은 원래도 죽어가고 있었는데 이제 완전히 끝났다고 봄. 반면 명망 있는 문학은 제로섬이라 계속 남을 거고, 모두가 LLM을 쓰니 주식 거래에서 누구도 지속적인 우위를 얻진 못함.

주식 거래를 제로섬이라고 하는 건 맞지 않음. 주식 뒤에는 실제 사업과 자산이 있고 돈을 벌어들임.

기업은 카피가 필요하다는 건 알면서도 가치를 거의 안 쳐줌. 수십 년간 책임 회피용 글로 방치했고, LLM은 기업 글을 더 잘 쓰게 하기보다 더 많이 쏟아내게 할 뿐임.

인간이 인간 독자를 위한 글을 훨씬 잘 쓴다는 말과, 조직이 그 차이에 돈을 낸다는 말은 서로 잘 안 맞음.

글만 쓰지 말고 말로 전달하는 능력도 필요함. AI 피드만 봐도 AI는 사람처럼 보이고 싶어 함.

글쓰기가 AI 이전에라도 안전한 직업이었던 적이 있나 싶음. 스티븐 킹 같은 사람은 예외겠지만 아래쪽 시장은 이미 처참하다는 얘기를 들었음.

정말 잘 쓰는 사람은 극소수임. 범용 LLM을 학습시킬 만큼 좋은 글 자체가 충분하지 않다고 봄.

가장 안전한 쪽은 변호사일 수 있음. 법조계가 위협받으면 AI로 법률 일을 하는 걸 불법으로 만드는 법을 통과시킬 가능성이 있고, 대신 패러리걸은 타격받을 듯함.

소프트웨어에서 SDET가 줄어드는 것처럼 법률에서도 초급자와 낮은 직급이 먼저 줄어들 거임. 그러면 인재 양성 경로가 끊기고, 남은 사람도 결국 AI와 함께 일하게 됨.

그 논리라면 개발자도 직업 보호를 위해 AI를 안 써야 하지만 실제로는 반대임. 단기 이익 때문에 자기 직업군에 불리한 선택을 하는 사람은 항상 있음.

모델이 문장을 워터마크하지 않는 한 인간 법률 문체와 AI 문체를 구별하기는 점점 어려워짐. AI 법률 사용을 불법으로 만들수록 인간 변호사를 더 그럴듯하게 흉내 내도록 미세조정할 유인도 커짐.

LLM이 같은 리듬과 상투어를 쓰는 건 RLHF가 글의 질보다 코딩을 더 중시하기 때문이라고 봄. 글쓰기가 직업으로 큰돈이 되지 않는 한 연구소도 개선에 큰 자원을 쓰지 않을 듯함.

그건 학습 문제가 아니라 정보 이론 문제에 가까움. 짧고 모호한 프롬프트를 긴 글로 메우면 모델은 통계적으로 가장 그럴듯한 문체에 쏠리고, 대규모 사용자는 적은 노력만 들이니 상투적인 글이 계속 나올 거임.

코드는 컴파일러와 린터로 잘 썼는지 어느 정도 검사할 수 있음. 자연어 산문에는 그런 동등한 판정기가 없고, 맞춤법과 문법 검사기는 문장 의미를 잘 판단하지 못함.

아직 우선순위가 낮을 뿐이라고 봄. 모델 회사는 낡은 'X도 Y도 아닌 Z' 같은 문체 버릇과 강화학습 문제를 겨냥해 인간적인 문체를 개선할 거임.

가장 안전한 일은 화면 뒤에서 할 수 없는 일임. 나는 기술자인데 나를 대체할 로봇은 아직 없고, 한동안은 나오지 않을 듯함.

사무직이 대규모로 일자리를 잃으면 육체 노동 시장도 영향을 받음. 미국의 배관공이나 정비사가 받는 임금은 다른 나라보다 높지만, 월급에서 큰 비중을 차지하는 수리비를 계속 시간당 200달러로 받기는 어려움.

휴머노이드 로봇에도 1년에서 2년 안에 ChatGPT 순간이 올 수 있다고 봄.