Qwen 3.8 27B가 Pi의 Bash 도구로 역공학을 30분 만에 끝냈다는 사례

도구 호출과 하니스 구성이 궁금함. 듀얼 Arc Pro B70에서 초당 약 22토큰 나오는데, GPT 5.6 Sol은 objdump를 부르고 Ghidra에 넘길 무인 작업도 쓰더라.

내 M5 Pro는 6비트 MTP로 초당 12-15토큰 정도임. 로컬 모델은 검열 없는 버전을 돌릴 수 있고, 오래된 라우터 펌웨어 역공학이나 라이선스 키 질문을 해도 OpenAI 계정 약관 위반을 걱정할 필요가 없어서 좋음.

작성자가 설정을 추가했는데 Pi에서 Bash 기반 도구만 썼다고 함.

큰 프런티어 모델이 일상 문제용 로컬 모델에 문서, 스킬, 도구 호출 하니스를 만들어 주는 형태가 될 것 같음. 많은 작업은 엄청난 연산보다 충분한 로컬 모델과 잘 만든 스킬이 더 필요하다고 봄.

프런티어 모델과 로컬 모델의 본질적인 차이가 뭔지 모르겠음.

개인 비서처럼 내 데이터에 접근해야 유용한 용도라면 클라우드 AI는 못 쓰겠음. 차등 프라이버시나 기밀 컴퓨팅이 있어도, 이상적으로는 로컬에서 돌아가야 함.

내 경우 강한 모델은 작은 로컬 모델용 코딩 하니스와 스킬 파일, 도구를 만드는 데 씀. 특정 작업에만 호스팅 모델을 보태고 평소에는 로컬 모델을 쓰는 쪽이 맞다고 봄.

처음 복구한 키는 서명 검사는 통과했지만 바이너리의 무결성 해시가 맞지 않았음. Qwen 3.8 27B는 거기서 멈추지 않고 다시 파서 바이트 단위까지 일치시켰고, 최근 모델은 이런 검증 집요함이 늘어난 듯함.

Linus Torvalds가 쓴 사례는 달랐음. AI가 여러 번 불가능하니 보고서나 쓰자고 했고, 결국 사람이 고집스럽게 디버깅을 밀어붙였다고 함.

최근 모델 일반화는 조건을 붙여야 함. 같은 모델과 비슷한 맥락, 같은 파라미터에서 X가 Y보다 낫다는 비교가 아니면 사람의 패턴 찾기에 가까움.

새 모델이 비싸고 오래 걸린다는 불만도, 답을 이미 맞혔어도 찾을 수 있는 테스트를 다 돌려 검증하려 하기 때문일 수 있음.

로컬 모델에 거부 장치를 넣는 건 싫음. 범죄 조직은 이미 제한 없는 최고 모델을 구할 수 있을 텐데 일반 사용자만 막는 건 불공평하다고 봄.

Hugging Face에는 원본이 거부할 불법적 요청까지 따르며 의미 있는 가드레일이 없다고 설명하는 Qwen3.8-27B 무제한판도 올라와 있음.

제목 이미지에 Claude 구독 화면이 나온 건 다른 글용 백엔드 이미지를 실수로 골랐기 때문이라고 작성자가 인정하고 교체하겠다고 함. 다른 스크린샷에는 사고 과정이 보였는데 Claude는 그걸 공유하지 않으니 관련 이미지일 수 없었다고 함.