LLM이 헥스 덤프만 보고 실행 파일을 바이트 단위로 읽고 고쳐 씀
- GPT-6.1 Sol은 디스어셈블러나 컴파일러 없이 헥스 덤프만 받고도 실행 파일을 바이트 단위로 읽고 쓰는 것이 확인됨
- 다섯 개 바이너리를 모두 바이트만 보고 설명했고, 심볼이 제거된 오픈소스 통계 도구에서 상류 코드의 실제 버그를 찾아냄
- 정체를 모르는 악성코드 샘플의 동작을 정확히 파악하고 올바른 IOC를 추출했으며, DeepSeek V4.1 Flash도 같은 결론에 도달함
- 후속 실험에서 세 개 바이너리의 바이트를 직접 편집해 기능을 추가했고, 프로그램 세 개를 처음부터 작성함
Hacker News 의견들
바이트를 자연어처럼 읽고 중간 단계 없이 바이트를 직접 고친다는 게 핵심임. 보통은 사람이 어셈블리로 올렸다가 다시 내려야 하는 일인데 LLM은 그걸 그냥 함.
학습 데이터에 해적판 상용 소프트웨어가 섞였을 것 같음. 책이랑 음악 때처럼 게임이나 DAW도 토렌트로 긁었을 가능성이 큼.
해적판 앱엔 악성코드도 섞여 있을 텐데 그게 모델에 그대로 학습되면 웃기겠음.
구글은 유튜브, 스캔한 도서, 산 미디어 위주로 학습해서 이 부분에선 불리할 거라고 봄. 내 추측임.
학습 안 한 영역도 LLM이 꽤 잘하더라. 꼭 학습돼 있어야 되는 건 아님.
근데 AI는 보통 바이너리를 프롬프트 안에서 직접 다루진 않고 기존 분석 도구를 씀.
6502 헥스 덤프를 LLM으로 디스어셈블해봤는데 어셈블하고 링크하면 원본 헥스가 그대로 나옴. Claude가 WUMPUS 게임의 버그도 찾았음.
6502 디스어셈블은 몇십 년 전에 풀린 문제라 LLM까지 굳이 필요 없음.
실행 파일로 프롬프트 인젝션이 가능한지 궁금함. 악성코드 분석에 AI 쓸 때 특히 걱정됨.
요즘 모델은 단순한 프롬프트 인젝션엔 꽤 강함. 가드레일에 걸리게 하는 쪽이 더 흔한 방법임.
LLM이 기계어를 직접 쓰는 건 말이 안 됨. 비결정적이라 고수준 소스를 한 번 만들고 결정적 컴파일러로 타깃마다 빌드하는 게 맞음.
결정적인 리프팅 도구가 이미 있고 보통 그쪽이 더 효율적임.