Unreal Labs, 툴콜 완전 비동기 하니스 'Unreal Agent' 공개... Codex 대비 최대 40% 비용 절감
- Unreal Labs가 툴콜 대기·폴링·하트비트 관리를 모델에게서 떼어낸 코딩 에이전트 하니스 Unreal Agent를 공개했고, 실제 워크로드와 벤치마크에서 Codex 대비 최대 40%, Pi 대비 최대 20% 비용을 아꼈다.
- 툴콜을 낼 때마다 이벤트 로그에 "in-progress" 상태 레코드를 즉시 붙여 뒤로 계속 돌리고, 실제 완료 시점에 결과를 세션 로그에 추가한 뒤 LLM을 호출하는 방식이라 모델이 대기·폴링으로 토큰을 쓰지 않음.
- Terminal-Bench 4.0에서 GPT-6 Astra xhigh 기준으로 57.9% 패스에 총 $1428, 1.73M 입력/트라이, 28턴, 37툴을 써서 동률인 Codex 리더보드 57.9% $2350보다 $922 저렴하고 Pi(55.0%, $1827)도 앞섬.
- SWE-Atlas Codebase QnA에선 65.8% 정답률에 $936, 898k 입력, 16턴, 27툴로 Codex(63.3%, $1303, 1.69M 입력, 22턴, 21툴)보다 싸고 정확도도 높았음.
- 비용 절감 원인은 서브에이전트와 워크플로 없이 프롬프트·툴 결과만 최소화한 하니스 발자국과, 턴당 툴콜을 더 많이 묶어 보내는 두 가지로 정리했으며 사용자 개입을 툴 완료 없이도 즉시 받는다.
Hacker News opinions
비동기 툴콜이 왜 토큰을 아끼는 건지 잘 모르겠음. 대기하는 동안 Pi가 정확히 어떤 토큰을 쓴다는 거지?
에이전트가 자기가 띄운 프로세스 끝났는지 주기적으로 확인하는 루프를 도는 걸 말하는 것 같음.
더 큰 문제는 대기하다가 캐시가 만료되는 거임. 호스팅 프로바이더 중 캐시를 대략 5분만 들고 있는 데가 있어서, 5분짜리 툴콜 기다리면 전체 컨텍스트를 캐시에 다시 올리는 비용을 그대로 냄.
모델과의 라이브 상호작용이 본질적으로 비동기라는데 공감. 하니스 설계 원리에 이렇게 집중하는 팀이 나와서 좋고, OpenCode API 호환 서버까지 있으면 금상첨화일 듯. 스트리밍 응답도 좀 넣어줬으면.
대표 그래프가 좀 이상함. 자기들은 Astra xhigh로 돌려놓고 Codex는 Astra max랑 비교하고 있더라. 참고로 OpenAI도 자기 하니스에 비동기 툴콜 지원을 넣어서 올리는 중임.
Codex가 토큰을 많이 쓰는 건 띄운 태스크를 계속 폴링하면서 핫루프를 도는 게 원인임. 내 Codex 포크에서 1월에 그걸 고쳤더니 Unreal에서 보여준 규모와 비슷하게 토큰이 아껴지더라. 패치 계속 리베이스해서 올려놨음.
난 ~/.codex/config.toml에 multi_agent_v2 켜고 wait_agent_enabled=true, min_wait 10초로 넣어서 Codex 폴링을 줄였음. Astra를 5시간 돌렸는데 사용량 마지막 30%를 썼음.
대표 차트는 우리 쪽 게으름이었음. 각 벤치마크는 전부 xhigh끼리 비교해서 개선폭을 계산했는데, agentic coding index 파레토 차트 기본값이 Codex max를 끼워 넣어서 혼동이 생긴 거라 수정할게.
솔직히 에이전트 하니스를 아직도 채팅에다 셸 세션 붙이는 식으로 모델링하는 게 이해가 안 감. 비동기 액터 시스템에 샌드박스 OS 접근 액터로 가야지, 저기 쉬운 이득이 널려 있는데.
이름이 Unreal이라 Epic 쪽이랑 트래이드마크로 꼬일 것 같음. Epic도 'Unreal Labs' 이름으로 소프트웨어 엔지니어링 하니스를 낼 수 있는 판이잖아.
Unreal 같은 일반 단어를 트래이드마크로 못 걸지 않나?
Epic 소송 들어올 냄새가 확 남. 같은 도메인이고 사람들이 계속 헷갈리니까, 출시 전에 변호사 좀 보고 가지 그러냐.
난 Unreal Engine 관련 건 줄 알고 들어왔는데 아무 상관이 없어서 아쉬움. 에이전트가 Unreal Engine 게임이랑 붙기 쉽게 해주는 거면 좋았을 텐데.
omp.sh가 파이썬/JS로 구조적 툴콜 실행을 eval에서 그냥 허용하는 방식이 더 나음.
Codex 구독이랑 같이 쓸 수 있나? Codex는 OAuth 엔드포인트를 제공해서 어떤 하니스에서든 붙여 쓸 수 있음. app-server랑은 별개 경로임.
에이전트 쪽에서 아직 안 파진 영역이 꽤 있음. 도구를 계층적으로 파고들어 찾는 fractal tool discovery, splay tree로 최근 쓴 워크플로를 위로 올리는 아이디어, WASI 기반 컨테이너 노트북 같은 거. 같이 할 사람 연락 줘.