LLM 출력을 '인간처럼' 다듬는 건 잘못된 접근이라는 주장, HN서 verbose 출력 논쟁 불붙어

요즘 LLM 출력에 이상한 은유랑 전문용어가 너무 많아서 문단 하나 읽고 나면 뭘 읽었는지 모르겠음. 그래서 매번 '고차원 목표에 맞춰서 LLM스피크 걷어내고 지시대명사 없애줘'라고 다시 시키는데, 원본은 나중에 에이전트가 쓸 수 있게 따로 보관해둠

이거 읽으니까 Said의 오리엔탈리즘 읽을 때 느낌이랑 똑같음. 좀 음모론적으로 보면 이건 벤더 락인 전략일 수도 있음, 같은 계열 에이전트끼리 써야 결과가 잘 나오고 다른 사람들은 그 은유 산더미에 걸려 넘어질 거임

이게 캐펙스 태우는 사람들이 인간 개입을 줄이려는 부작용 같음. 직접 검토하려면 결국 더 단순한 모델용 별도 인터페이스가 필요해질 거고, 나는 코드는 verbose한 모델이 1차로 뽑고 그걸 다른 모델이 잘라내는 구조로 갈 것 같음

이거 요즘 진짜 심각해짐. Anthropic 모델인지 내 ADHD 때문인지 모르겠는데 알아먹을 수 없는 전문용어 덩어리 설명 보면 진심 짜증나서 다른 모델로 옮길까 고민 중임

LLM한테 은유 쓰지 말라고 명시적으로 말해야 함. 그 진지한 척 감성적인 은유들이 짜증나고, 가끔은 그게 새로운 기술 용어인지 은유인지 구분도 안 됨

나는 계속 Claude한테 더 간결하게, ELI5로 해달라고 요청하는데 스크롤해야 하는 긴 출력이면 못 따라감. 내가 잘 아는 코드베이스에 대한 긴 출력 보면 그냥 눈이 풀림

Anthropic이랑 OpenAI 최신 모델 출력은 AI가 쓴 게 너무 뻔히 보임. 전문가라면 절대 안 쓸 은유랑 신조어 범벅인데, RLHF 담당자들이 실제 그 분야 전문가가 아니라서 그런 거 아닐까 싶음

Opus 5가 특히 이 문제 심함, 너무 verbose하고 초점 안 맞는 얘기까지 다 넣음. ADHD 모드 켜면 도움되긴 하는데 그만큼 정보 손실도 있음

'작업 끝난 뒤에 적용 안 된다'는 문제, 그냥 두 단계로 나누면 되는 거 아님? 먼저 물어보고, 그 답을 다시 간단하게 요약해달라고 하면 토큰이랑 시간은 더 들지만 두 마리 토끼 다 잡음

그건 하네스(harness) 레벨 기능으로 만들어야 할 것 같음

나는 그 요약을 웹페이지 시각 자료로 만들어달라고까지 시킴, 프로젝트가 크면 특히 효과적임

이 글 이해가 안 됨. 그 스킬이랑 지시들은 오히려 출력을 더 기계적으로 만드는 거임, 인간화가 아니라. 사람들은 회색빛 전문용어랑 'blast radius' 같은 표현 가득한 수다스러운 출력이 아니라 간결하고 사실적인 출력을 원함

글이 verbose한 출력이 본질적으로 우월하다는 식으로 암시하는 부분에서 설득력을 잃음, 그건 그냥 리스크 헤지용일 뿐임

도대체 어떤 사람들을 말하는 거임? 문제는 몇 개 안 되는 크고 비싼 모델이 모든 사람한테 다 맞추려고 하는 거임

나는 LLM이 내 친구인 척하는 게 싫어서 '1인칭 쓰지 말고, 이모지도 쓰지 말고, 친근함이나 감정적 유대 조성하지 말고 객관적이고 분석적으로 답해라'는 프롬프트를 계속 다듬고 있음

동감, 도구는 도구인 게 맞음. 부족하고 가끔 헛소리해도 괜찮은데, 의식 있는 존재인 척하면 그게 문제임. 그러면 오류가 거짓말처럼 느껴지고 너무 개인적으로 다가옴