사이먼 윌리슨 "사용량 기반 서비스엔 기본 하드 예산 상한 필요"... AWS·구글 클라우드 지출 한도 도입
- 사이먼 윌리슨은 사용량 기반 API와 호스팅 서비스에 기본 하드 예산 상한이 필요하다고 주장함. 경고 메일만 보내는 소프트 상한으로는 부족하고, $X를 넘으면 서비스를 끊고 에러를 반환해야 한다는 것임
- AWS는 9월 16일 빌더 익스피리언스에서 월 지출 한도 설정 기능을 발표함. 한도에 도달하면 해당 프로젝트가 그달 동안 중지되며, 문서에는 제한된 고객에게만 배포 중이라고 적혀 있음
- 구글 클라우드는 7월 프로젝트 안의 특정 서비스에 월 재정 상한을 거는 Spend Caps를 출시함
- 해커뉴스 댓글에서는 구글 클라우드 상한이 일부 서비스만 지원하고 월 단위만 가능하며 크레딧과 할인을 반영하지 않는다는 지적이 나옴. Ubicloud와 Cloudflare에는 하드 상한이 없음
- 윌리슨은 코딩 에이전트가 유료 API를 호출하는 코드를 쉽게 만들어내면서 예상치 못한 청구가 늘었고, 상한을 넘긴 서비스가 잠들어 있는 사이 수백에서 수천 달러를 더 쓸 수 있다고 봄
Hacker News opinions
구글 클라우드가 드디어 서비스별 하드 상한을 넣었나 싶었는데 완전 가짜더라. 아무 관련 없는 서비스 4개만 되고 나머지는 전부 미지원이고, 기간도 월 단위만 되는데 달마다 길이가 다른 것도 무시하고 크레딧이나 할인도 반영 안 함. 내 프로젝트엔 하나도 안 쓸모 있음.
경쟁사가 먼저 하니까 그제서야 만든 거 아니냐는 반응도 있었음. 하드 상한은 AI 스튜디오에서 만든 프로젝트에서만 작동한다는 댓글도 있고.
놀란 1만 달러 청구 정도면 선방한 거임. 어떤 사람은 에이전트 때문에 6천 달러만 나왔다고 링크까지 걸어놨더라.
이런 건 협상된 계약 없이는 존재하면 안 됨. 월 20달러 구독하고 그달 요금 날리는 리스크는 내가 지지만, 컴퓨터가 청구를 조종하다가 폭주할 수 있다는 구조라면 그 서비스 근처에도 가고 싶지 않음.
전기 요금도 사용량 기반인데 잘 돌아감. 차이는 자릿수임. 전기는 몇 배 차이인데 이 서비스들은 월 20달러에서 20만 달러까지 순식간에 튄다는 게 문제.
벤더가 왜 고객이 실수로 백만 달러를 주는 걸 막으려 하겠냐는 질문엔, 상한 있는 벤더로 옮기면 되니까, 그리고 그 돈을 실제로 받아내지도 못하니까 그런다는 답이 붙었음.
아예 법으로 강제해야 한다는 주장도 나옴. 상한을 설정할 방법이 없으면 무제한 청구서를 보낼 자격도 없다는 것.
법 얘기엔 반대도 많았음. 구글도 경쟁사가 하니까 넣은 거고, 그 전에도 다른 벤더로 옮기거나 GPU를 고정 요금으로 빌리거나 직접 사면 됐다는 것. 세금 더 낸다고 전력회사 CEO를 감옥에 보낼 거냐는 댓글도 있음.
클라이언트에서 API 호출을 자동화할 수 있으면 청구 상한도 자동화하면 되지 않냐는 반론엔, 클라우드 가격 구조가 너무 불투명하고 사용량 통계 갱신도 느려서 서킷브레이커를 만들 수 없다는 답이 붙음. AWS는 API로 관련 정보를 아예 못 얻는 경우도 있음.
Ubicloud로 CI를 전부 옮기고 나서야 하드 상한이 없다는 걸 알았다는 사람도 있음. Cloudflare도 하드 상한 없음.
가격이 시장에서 결정되는데 뭐가 문제냐는 댓글엔, 이건 가격 상한이 아니라 100달러 넘으면 끊어달라는 예산 상한이라는 반박이 달렸음. 상한은 결국 임의로 정해지고 불편해지면 완화될 거라는 예상도 있음.
월별 지출 요약이나 추세 알림이 필요하다는 얘기도 나옴. 토큰이나 크레딧으로 추상화될수록 그게 실제 돈으로 얼마인지 알려줘야 함. 연 계약이 5개월 만에 바닥나는 걸 14일 남기고 알면 곤란하니까.
다음 토큰 예측기에 왜 우리 돈을 맡기냐는 댓글도 있었음. 그건 아니고 호스팅이나 SaaS를 고를 때 상한 있는 업체를 추천하게 하자는 얘기라는 답이 붙었음.