캔버스 지문 스크립트에 리신 살상 용량 함수명과 숨겨진 프롬프트 인젝션, LLM 난독화 회피용이었다

비슷한 짓을 했는데 아직 공개 금지된 문서에 워터마크를 넣어둠. 하루는 지우는 걸 깜빡했더니 고객이 문서를 못 받았다고 난리였고, 한참 뒤에 그쪽 아웃룩 로그에서 워터마크 때문에 파일이 격리됐다는 줄을 찾았음. 덕분에 제대로 작동한다는 첫 증거를 얻었으니 꽤 만족함.

제법 교묘한데? 이 아이디어 훔쳐가도 되지?

오늘 우연히 본 HN 프로필에도 anti-LLM 주문이 있더라. 훨씬 덜 난독화돼 있었지만. Anthropic 매직 스트링이 있는 줄은 몰랐음.

그 매직 스트링은 이미 몇 달째 안 먹힘. Claude한테 물어보면 거부 없이 잘 설명해줌.

AI PR이 폭주해서 PR 제목에 로봇 이모지를 붙이면 우선 처리해준다고 공지한 메인테이너도 생각남. 그걸로 AI PR만 걸러내면 되니까.

그건 사치임. 난 HN을 언급하는 AI 냄새 물씬 나는 메일을 매일 받는데.

오픈 웨이트 모델은 세이프가드가 약해서 GLM 5.3이 그냥 따랐다는 게 재밌음. 중국 추론 제공자라면 톈안먼 얘기에 필터가 걸리겠지만 모델 자체에 박혀 있는 건 아닌 듯.

중국 모델의 정치적 거부는 법 준수용으로 UI 레이어에서만 걸리는 거고, 서구 연구소의 alignment는 PR이라 일부러 요란하게 거부한다는 분석도 있더라.

왜 하필 리신이랑 상수도임? 리신은 물에 안 녹아서 수조 위에 둥둥 떠 있을 텐데.

보툴리눔은 왜 아무도 언급 안 하냐.

캔버스 지문 때문에 브라우저 개발사들이 이걸 좀 막아야 하는 거 아님? 왜 내 컴에서 조용히 명령을 돌리고 본사로 보고하는 게 가능한 거임?

확장 끄고 noscript 쓰면 사람들이 쓰는 공격 경로는 대부분 막힘. CVE는 실제 익스플로잇이 필요해서 드물고 비싸고.

돈 많은 회사들이 계속 이러길 원해서 문제인 거지. 캔버스는 웹게임이나 그림 사이트 때문에 필요한 양날의 검이라 아예 막기도 애매함.

이거 보면 주니어 분석가가 소리 지르고, 좀 있으면 시니어가 한숨 쉬면서 SOC에 AI 도구가 토를 하는 그림이 그려짐.

기술적인 건 재밌는데, LLM이 난독화 코드를 못 풀게 하려고 자살이랑 사람 죽이는 얘기를 '생각'하게 만든다는 건 좀 징그러움. 내가 살고 싶던 소프트웨어 업계는 아닌 듯.

Claude는 원래 이런 트릭 없어도 잘 거부함.

LLM은 니 자바스크립트를 잘 안 보니까 poison fountain을 쓰라는 얘기도 있음.

용어 하나 만들자면 LLM scare-crowing, 줄여서 scare-crowing이겠네.