브라이언 캔트릴, 링크드인 LLM 대필은 문체보다 작성자 신뢰를 잃게 만든다고 비판

글쓴이가 대시를 자기 소유물처럼 되찾으려는 것 같아서 웃김.

사람들이 자기 LLM 글의 질이 낮다는 걸 정말 못 보는지 이해가 안 감. 남의 AI 글은 알아볼 텐데, 제출 버튼 누르기 전에 자기 글은 안 읽는 건가.

대시 개수만 보고 AI 글이라고 단정할 수는 없음. 이 글의 대시는 흔한 LLM식 사용과 다르고, 제럴드 포드와 닉슨을 끌어온 비유도 AI라면 꽤 특이한 편임.

사람들이 LLM 생성문을 얼마나 정확히 판별하는지 연구가 있는지 궁금함. 당장은 AI인지 몰라도 문장이 나빠서 주장에 덜 집중하게 되는 문제가 더 커 보임.

LLM 글을 공개 없이 쓰면 안 된다는 이유를 '글을 못 써서'에만 두는 건 불충분함. 모델 글이 좋아져도, 사람의 생각과 모델이 만든 문장을 사람에게 귀속시키는 건 오해를 부를 수 있음.

주제를 파고들며 최종 글의 100배를 써보는 사람도 있음. 최종 문장만 생성됐다는 사실로 그 사람이 들인 사고와 작업량을 판단할 수는 없음.

RLHF는 효과적이고 세련돼 보이는 표현을 반복 강화해서 과잉 노출시키는 문제가 있음. 원래 드물어야 할 전환 문구가 매일 쓰이면 숙련된 독자는 냄새를 맡게 됨.

링크드인은 원래도 신뢰도와 개인 브랜딩을 위한 인간 작성 게시물이 많아서 불쾌했음. LLM을 쓰는 건 경우에 따라 브랜딩 자살행위가 될 수 있음.

AI 문체라는 이유만으로 내용을 읽지 않으면 안 됨. 나는 체크박스용 문서를 쓰기 싫어서 LLM에 맡기고, 더 흥미로운 문제 해결에 시간을 쓰고 싶음.

나는 누군가 대충 뱉어낸 디지털 쓰레기를 읽으며 시간을 보내고 싶지 않음. 그건 디지털 오염임.

AI 작성 आरोप을 마구 던지는 쪽도 문제임. 나는 완전한 문장과 조금 낯선 단어를 썼다는 이유로 AI를 썼다고 오해받았고, HOA 회장은 이웃의 유효한 민원 편지를 너무 잘 썼다는 이유로 답변조차 거부했음.

링크드인의 인간 작성 바이럴 글도 원래 알고리즘이 띄운 쓰레기였음. LLM은 참여도를 성공으로 학습해 그 문체를 흉내 내고, 결국 자기 공급물에 취한 듯한 더 기묘한 쓰레기를 만듦.