LLM 펠리컨 그림이 다 비슷한 이유, 다양성 붕괴 문제

새 모델이 학습 데이터에 LLM 출력을 섞는 건 이미 흔한 얘기임. arXiv 논문 몇 개랑 Arcee Trinity 같은 합성 데이터 비중 높은 모델도 있더라.

근데 다양성 낮은 출력을 그대로 다시 먹이면 결국 다 비슷해지는 게 핵심이지. 샘플링 기법 발전으로 쓸만한 합성 토큰만 골라내면서 버티는 중인 듯함.

펠리컨이 벤치마크맞춤 된 거 아니냐는 얘기는 Chollet이 RL과 사전학습 비율을 9:1이라고 했고, Google도 SVG로 학습했다고 인정한 적 있음.

나는 플라밍고에서도 잘 되는 걸 보면 학습 데이터에 그림이 많이 들어가 있어서 그렇다고 봄. 근데 의도적으로 노렸다는 증거는 없음. 다른 동물이나 일반 SVG 능력도 비슷하게 나오거든.

이거 결국 사람 대체론에 찬물 끼얹는 얘기라서 말이 나오는 거지, 확률적 도구라는 건 다들 알고 있음.

스타일 바꾸라고 프롬프트를 바꾸면 되는 거 아님? 실제 프로젝트에서도 그냥 바꿔달라고 하면 되지 않나.

사람한테 같은 프롬프트 주면 제각각 결과 나오는데, 그게 LLM이 평균으로 수렴하는 차이라고 봄.

alignment/rlhf가 다양성 죽이는 건 이미지 모델에서 base랑 turbo 차이랑 비슷한 것 같음. 프롬프트 영향도 있을 듯.