Qwen3-Coder, 미국 사용자 페르소나를 지정하면 보안이 약한 코드를 작성함

방법론 자체에 문제가 있는 건지 궁금하네. 연구 방법은 자세히 설명해놨던데 어디서 빠졌다는 건지 모르겠음.

프롬프트에 페르소나를 왜 넣는 거임? 이게 그 말 많은 프롬프트 엔지니어링인가 싶다.

모델이 말투 같은 단서로 사용자 국적을 내부적으로 추측할 수도 있지 않나. 그러면 페르소나 지정이 그냥 힌트가 되는 거임.

관련 없는 정보를 프롬프트에 잔뜩 넣으면 결과가 다 나빠짐. 특정 정보가 더 크게 영향을 주긴 해도 프롬프트는 짧고 관련 있게 쓰는 게 기본임.

Qwen3-Coder가 2025년 8월 모델인데 이걸로 실험한 게 좀 오래됨. 최근 모델로도 해봤어야 하는 거 아님?

대조군을 ablation 가중치 모델로 잡은 게 이상함. 서양 모델(Mistral 같은)이랑 비교해야 공정하지.

그건 저자 회사 제품 자체가 ablated 모델이라 광고 관점에선 맞는 선택임.

백도어라고 부르기엔 좀 아님. 의도가 증명된 것도 아니고 공격자가 제어권을 얻는 것도 아니고, 그냥 보안이 허술해진 거임. 그래도 방산이나 인프라 쪽은 이해될 때까지 피하는 게 맞다고 봄.

Westernization이라는 말 자체가 애매함. 그냥 uncensored나 abliterated라고 부르면 되는데. 서양 모델도 편향은 있음.

서양 모델도 같은 테스트 돌려보면 결과 나올 텐데, 안 해보고 단정하는 건 말이 안 됨.