GPT-6 Astra, ARC-AGI-3에서 상태 보존 하니스로 99.9% 기록
- OpenAI의 GPT-6 Astra는 ARC-AGI-3 Semi-Private에서 Provider Adapter 하니스와 high 추론 설정으로 99.9%, 비용 약 $1만8,817을 기록했으며, Standard 하니스의 최고 점수는 max 설정 62.7%, 약 $2만6,098임
- Provider Adapter 하니스는 요청 사이에 불투명한 추론 상태를 보존하고 긴 대화는 압축하므로, 모델이 이전 작업을 다시 활용하게 함
- Astra는 시험한 레벨의 96%에서 인간 참가자 중앙값보다 적은 행동으로 풀어, ARC-AGI-3의 행동 효율 인간 기준선을 넘었음
- ARC-AGI-3는 명시적 지시 없이 낯선 턴제 환경을 탐색해 규칙과 목표를 추론하도록 하며, 탐색·모델링·목표 설정·계획 실행을 평가함
- Astra는 객체·좌표·규칙·미완료 계획을 메모로 유지하고, 환경 상태와 행동 계획을 추적할 자체 도메인 특화 표기법을 만들었음
Hacker News opinions
추론을 더 많이 켤수록 비용이 내려가는 이 점수와 비용 곡선은 대체 뭐임?
DeepSeek v4 Flash도 최근 비슷하게 추론을 많이 쓸수록 더 싸지는 곡선을 보였음. 직관에는 안 맞지만 재밌는 현상임.
사람 뇌의 전력비만 AI 비용과 비교하는 건 공정하지 않음. 사람은 하루 종일 같은 수준으로 요청을 처리할 수 없고, 일부 시간이라도 그렇게 일하게 하려면 큰 비용이 듦.
사람의 시간을 왜 0원처럼 취급하는지 모르겠음. 내 시간은 내가 가진 자원 중 가장 비싼 편임.
맞는 하니스에서 99.9%면 이제 AGI라고 봐야 하는 것 아닌가. 다음에는 인간이 더 싸다거나 더 효율적이라는 식으로 기준이 또 바뀔 듯.
AGI는 각자가 자기 기준을 투영하는 말이라서, 합의된 뜻이 거의 없음.
기준 이동은 이미 시작됐다고 봄.
문맥과 추론을 매번 버리는 공식 ARC 하니스가 문제라는 OpenAI 설명은 일리가 있음. Provider Adapter는 표준적인 컨텍스트 압축을 넣은 것이고, 현실의 에이전트가 매번 게임을 처음부터 배울 이유는 없음.
그런데 글은 아직 AI가 못 하는 능력이 무엇인지 설명하지 않았음. ARC-AGI-3에서 더 초인적으로 잘할 수 있다는 말 말고는 남은 한계가 뭔지 모르겠음.
스네이크 비슷한 퍼즐을 최소 행동으로 푸는 일이 지능의 정의가 될 수 있나?
처음 보는 일반 입력 환경에서 이게 스네이크류 게임이라는 것부터 추론하고 최소 행동으로 푼다면, 지능의 증거로는 꽤 설득력 있다고 봄.
틱택토나 스네이크를 푼다고 AGI는 아니지만, AGI를 주장하려면 그런 일은 당연히 해야 함. 1년 반 전 Gemini Pro 2.5는 틱택토 한 수마다 한 페이지 분량의 사고가 필요했음.
검증 가능한 작업은 결국 모델이 다 하게 될 거고, 벤치마크는 전부 포화될 거라고 봄.
검증 가능하다는 사실만으로 포화되지는 않음. 동전 앞면 예측, 예산 안에서 수익 내기, A/B 테스트에서 유료 구독 늘리기는 검증은 쉬워도 학습하기 어려움.
표준 하니스에서 추론 없음이 35.2%라서 high의 Opus 5보다 높다는 점도 이상함. low가 none보다 낮고 none이 medium 근처인데, API의 none이 실제로는 medium으로 기본 설정된 것 아닐까.