AI 성능 단위당 비용 분기마다 47% 하락, 질문당 $0.30에서 $0.0004로 725배 절감
- Epoch AI가 Emberson과 Roodman 명의로 낸 보고서는 지난 3년간 같은 성능의 AI 비용이 분기당 평균 47%씩 하락했다고 분석함. 연간 13배 인하로 역사상 어떤 변혁 기술보다 빠른 속도임.
- OpenAI o3는 2025년 1월 GPQA Diamond에서 75%를 맞히는 데 질문당 약 $0.30이 들었으나 GPT-5.6 Luna는 2026년 중반 같은 점수를 $0.0004에 달성함. 18개월 안에 약 725배가 저렴해진 사례임.
- 모델이 똑똑해지는 것과 별개로 같은 수준의 지능을 만드는 추론 비용 자체가 급격히 줄어듦에 따라, 프런티어 모델은 구형 모델보다 성능뿐 아니라 실행 비용에서도 빠르게 앞서감.
- Alex Tabarrok는 이 비용 하락을 오픈 모델 위협이 겉보기보다 크지 않은 이유로 지목함. 프런티어 모델이 주어진 성능 수준에서 더 싸게 동작한다는 설명임.
Hacker News opinions
인간 지능 가격도 빠르게 떨어지는 중임. 앞으로 외모 값이 훨씬 빨리 오를 거라고 봄.
말 잘하는 능력도 같이 오를 듯. 그게 지능이긴 한데 아주 많이는 아니고, 어색한 너드 시대는 끝났다고 봄.
그건 아닌 것 같음. 쓸만한 인간 지능은 줄어드는데 값싼 대체재가 사람을 더 멍청하게 만들거든. 인간 지능 가격은 오히려 오름.
물리학 박사, 유체역학·터빈 엔지니어, 지질학 포닥까지 나랑 같이 웹사이트 만들었음. 지적 과잉 공급을 소프트웨어 개발이 그동안 흡수해온 건데, SDE가 무너지면 학위를 보험으로 믿던 사람들이 크게 당황할 거임.
후AGI 사회에서 사회적 상승 경로를 물으면 나 진지하게 "외모가 되라"고 답함. 지능과 노동의 고유 가치가 사라지면 남는 게 그거임.
아님. 지능이 사다리를 못 밀어주면 외모가 아니라 물리적 힘 투사력이 통화가 됨. 문명 사회가 완전히 풀어질 수 있다는 얘기임.
LLM이 자기 학습을 하려면 결국 누군가는 똑똑해서 학습 재료를 만들었어야 하니, 어느 시점에 지능은 얼겠지.
꼭 그렇진 않음. 검증 가능한 보상 강화학습을 쓰면 사람이 학습 재료를 안 만들어도 됨. 사전학습 단계에서만 다음 토큰 지도를 쓰고, 요즘 에이전트는 자기가 RL 환경을 정의해서 훈련하기도 함.
합성 데이터가 실제보다 낫다는 보장은 없음. 수학만 봐도 풀기보다 문제를 내고 검증하는 게 쉬운 문제가 널렸음.
이 보고서 낸 Epoch AI는 Schmidt Sciences 같은 자금을 받고, 타바록 교수는 무비판적으로 칭찬함. 인간 지능이나 도덕 기준이 "빠르게 하락"하는 사례로 읽힌다는 반응도 있더라.
뭐? 보고서는 AI 성능과 비용 얘기인데. 그 블로그 글이 무슨 이념적 메시지를 밀겠어.
가격 경쟁이 이렇게 붙으면 이윤은 어디서 남기려고?
텍스트 출력에는 맞는 얘기인데 이미지, 음성, 보이스, 임베딩은 전혀 아님. 임베딩 모델은 몇 년째 업데이트도 없음.
지능을 수단으로만 보면 "가격"이 떨어지는 게 말이 됨. 실제로 파는 건 인공 지능이고, 진짜 값이 떨어지는 건 생활 수준임.
인공 지능 같은 건 없고 지능만 있을 뿐이라는 반박도 있었음. 지능은 생존 문제 공간의 한 축이라 수단인 건 맞고, 우리가 10만 년간 다른 지적 동물에게 가한 압박을 지금 받는 중이라는 거임.
자산가 계급이 원하던 게 바로 이거임. 똑똑한 사람 시간이 비싸서 항상 배알이 뒤틀렸거든. 자본주의가 지능까지 사고파는 상품으로 만들어버렸어.
해킹 비용이 싸지니 지대추구적 기생 비용도 같이 싸진다는 분석이 있음. 결국 데이터센터 불태우는 폭도 사태가 올 거라는 주장까지 이어지더라.