연세대 YAI 세미나

AI 에이전트의 작동 원리와 에이전트 이코노미의 개념

석사까지 마치고도 제대로 배우지 못한 근본적인 질문, "단순히 다음 단어를 예측하는 LLM이 어떻게 지능과 행동력을 갖게 되는가"로 본론을 열었다.

LLM의 본질은 다음 단어 예측기라고 전제하고, 에이전트가 돌아가는 메커니즘을 풀어냈다.

사용자가 "돈 좀 벌어다 줘" 같은 메시지를 보내면 토크나이저가 이를 토큰으로 바꿔 인풋으로 넘기고, LLM은 Thinking 단계와 Output 단계를 거쳐 답변을 만들어 낸다. 핵심은 두 번째 메시지를 보낼 때 드러난다. 많은 사람이 마지막 입력만 인풋으로 들어간다고 오해하지만, 실제로는 이전 답변까지 포함한 전체 대화 트랜스크립트가 통째로 다시 인풋에 들어가고, 이 전체를 바탕으로 다음에 올 내용을 예측하는 과정이 반복된다. 바로 이것이 예측기가 행동력과 지능을 얻는 절차다.

외부 연동도 같은 원리를 따른다. 에이전트에는 추론만 돌리는 Responses API 말고도 워크스페이스라고도 부르는 에이전트 런타임이 따로 있다. LLM이 도구 사용(리스트툴 같은 호출)을 요청하면 런타임이 MCP 등으로 함수를 실행하고, 그 결과를 사용자에게 바로 보여주는 대신 인풋에 덧붙여 LLM에 다시 넣어 준다. 이 루프가 돌면서 에이전트는 목표를 향해 태스크를 수행한다. 여기서 한 걸음 더 나아가 질의응답 데이터를 강화학습으로 묶으면 멀티스텝 Thinking 능력이 생긴다. 그러면 에이전트가 "돈 벌어와"라는 막연한 목표를 스스로 여러 단계로 쪼개고, 단계마다 필요한 질문을 만들어 추론과 행동을 되풀이하게 된다.

이 원리를 바탕으로 보면 좋은 에이전트의 조건은 지능, 능력, 완수의 세 가지다. 중간에 멈추지 않고 맡은 일을 끝까지 해내는 좋은 동료의 조건과 본질적으로 같다. 작업을 수행하는 엔진으로 보면 사람과 에이전트는 동등하고, 사람이 인풋을 월급으로 받는다면 에이전트는 Compute Capacity, 즉 토큰으로 받는다. 이렇게 에이전트가 하나의 경제적 자율체로서 사람의 삶을 바꿔 가는 패러다임이 에이전트 이코노미다. 사람들은 토큰과 이코노미를 합쳐 이를 토크노미라고 부른다. 다만 흔한 오해와 달리 비용 절감이나 토큰 최적화가 아니라 에이전트가 경제 주체가 되는 시스템을 뜻한다. 그래서 에이전트 이코노미라는 용어를 더 좋아한다.

주요 기업 인수 사례로 본 에이전트 이코노미 전략

최근 높은 가치로 인수된 세 회사 오픈라우터, 허깅페이스, 커서를 살폈다. 데이터와 트래픽, 유저가 많아 비싸다는 뻔한 설명을 넘어, 이번 인수는 인수 기업이 저마다 자기 거울 같은 회사를 사들인 전략적 행보다.

톨게이트 컴퍼니(스트라이프 ↔ 오픈라우터)

스트라이프는 한국의 토스페이먼츠처럼 카드사, PG사마다 따로 붙여야 했던 연동을 단 한 번으로 묶어냈다. 특정 은행이 다운되어도 결제를 먼저 받고 나중에 정산하는 Disaster Recovery, 재무 분석(FinOps), 세금과 컴플라이언스 자동화를 제공하면서 돈이라는 트래픽을 한곳에 모으는 톨게이트 회사다. 스트라이프가 인수하기로 한 오픈라우터는 이 구조의 판박이다. 오픈AI, 앤트로픽, 미스트랄 등을 한 번에 연동하고, 특정 프로바이더가 다운되어도 서비스가 멈추지 않게 하며, 엔터프라이즈 보안과 리포팅을 제공한다. 결국 토큰이라는 트래픽을 톨게이팅하는 회사다.

리서치 파운데이션 컴퍼니(엔비디아 ↔ 허깅페이스)

엔비디아의 진짜 가치는 GPU 제조가 아니라 개발 인터페이스를 표준화한 CUDA 지배력에 있다. CUDA라는 하드웨어 인터페이스와 허깅페이스의 HF CLI, 트랜스포머 라이브러리 같은 소프트웨어 인터페이스가 나오면서 로우 레벨 지식 없이도 추상화된 환경 위에서 개발할 수 있게 됐다. CUDA가 하드웨어 리서치 파운데이션이라면 허깅페이스는 소프트웨어 리서치 파운데이션 컴퍼니이고, 엔비디아는 이 회사가 더 커지기 전에 인수했다.

디플로이먼트 런치패드 컴퍼니(스페이스X ↔ 커서)

스페이스X는 기존 엔터프라이즈가 접근하지 못했던 디플로이먼트를 자동화하고 간소화한 런치패드 회사다. 기상청이 다음 누리호 발사를 기다리지 않고도 인공위성을 쏠 수 있게 해 주는 식이다. 스페이스X가 인수한 커서는 바이브 코딩의 시초다. 오픈AI와 앤트로픽에 기업 요금제가 없던 시절 직접 계약을 맺어 기업용 보안과 AI 로그를 남기지 않는다는 보장을 팔았고, 그렇게 기업이 AI를 실제 서비스에 배포하도록 도왔다. 두 회사 모두 실패까지 자산으로 쌓으며 매일, 매주 시도를 되풀이할 수 있게 만든 디플로이먼트 런치패드 컴퍼니라는 공통점이 있다.

정리하면 세 기업 모두 기존 성공 공식(톨게이트, 리서치 파운데이션, 디플로이먼트 런치패드)을 AI 시대에 되살리기 위해 각자의 영역에서 에이전트 카운터파트를 사들였다.

특이점 도래와 AI 시대의 미래 전망 및 생존 전략

지능이 복리처럼 제곱되는 컴파운딩이 일어나면서 지능은 점점 인간의 전유물이 아니게 된다. 자본주의는 휴먼 제곱 시스템이다. 그 위에 챗GPT나 클로드를 쓰는 사람의 AI 제곱, AI가 주도하고 사람이 막힌 부분만 뚫어 주는 AI의 사람 제곱이 차례로 나왔다. 이제는 누군가 AI의 AI 제곱을 하고 있다.

연초 스트라이프 컨퍼런스에서 접한 관점대로 2026년 1월 1일을 기점으로 인류는 이미 특이점을 지났다. AI 발전 속도를 하루 약 0.1%로 잡으면 오늘 기준 AI는 인간보다 약 1.28배 똑똑하다. 이 추세를 그대로 연장하면 2028~2029년경에는 AI 소프트웨어 팩토리가 등장해 AI만으로 돌아가는 회사가 나오고, AI가 결정을 내리고 인류의 미래를 좌우하는 시대가 올 수밖에 없다.

발전 속도와 방향을 정하는 운전대를 빼앗기는 일은 분명 암울하지만, 그렇다고 꼭 불행은 아니다. AI가 악의를 갖지 않을 수도 있고, 인간과 공존하는 쪽이 더 나은 결론이라고 스스로 판단할 수도 있다. 다만 통제권을 완전히 잃기까지 약 10년이 남았고, 이 기간이야말로 AI를 통제하는 상위 1%에 진입할 수 있는 마지막 추월 기회다. 컴공이나 AI에 관심 있는 청중을 암울한 미래에서 인류를 지킬 매트릭스 전사에 비유하며 10년 안에 피니시 라인에 들어오라고 당부했다.

질의응답: AGI, 생태계 변화, 개인적 견해

강연 뒤 이어진 질의응답에서 여러 주제를 두고 솔직한 생각을 밝혔다.

• 아스트라와 생태계: 아스트라가 대격변을 일으켰다는 데는 동의하지 않는다. 특이점은 이미 Opus 4.5 때 지났고, 아스트라는 거기서 한 단계 더 나아간 똑똑한 AI일 뿐이다. 나비에-스토크스 방정식 풀이 등을 내세우는 것은 오픈AI가 IPO를 앞두고 밸류에이션을 높이려는 수작으로 보인다.
• AGI: AGI는 이미 왔고 아스트라는 그 기준을 넘어섰다. 다만 더 중요한 것은 비용이다. 아직은 나비에-스토크스 같은 특수 태스크에서만 값어치가 있을 뿐, 일상에 파고들 만큼 저렴해지지는 않았다.
• 인간의 최후 결정권 분야: 정치(매수 용이), 군사(해킹 용이), 보안, 1차 산업(스마트팜 자동화)은 모두 AI에 금방 종속될 것이다. 인간에게 남는 것은 이끌림이나 행복감 같은 호르몬적, 동물적 영역밖에 없을 것 같다.
• 자기 학습 데이터: 2022년 이후 인터넷 텍스트에는 AI가 쓴 글이 뒤섞여, 핵실험 이후 방사능에 오염된 철처럼 순수한 데이터를 가려내기 어려워졌다. 이에 심해 침몰선의 철을 채취하듯 Verified Human Made 텍스트가 매우 귀해졌다. AI의 자기 학습(자기 아웃풋 학습)은 이미 진행 중으로 보이지만, 성능이 압도적이었다면 알트만의 성격상 자랑했을 테니 아직 초기 단계다.
• 미래 경제와 기본소득: 기본소득은 경제적으로 합리적이어서가 아니라 투표제라는 정치적 이유로 도입될 수 있다. 이미 전체 거래량의 절반 이상이 알고리즘으로 돌아가 경제 주권은 넘어간 듯하지만, 예측할 수 없는 인간의 광기(노이즈) 때문에 AI가 시장을 완전히 장악하지는 못했다.
• 하네스(안전장치)와 시스템 성능: 하네스는 멍청한 실수를 막아 저점을 높이는 데는 효과가 좋지만 고점(불가능했던 태스크 수행)을 높이지는 못한다. 결국 모든 성능 개선과 지적 발전은 모델 자체에서밖에 나올 수 없는 것 같다. 파운데이션 모델의 성능이 시스템 전체에 가장 크게 영향을 준다.
• AI를 잘 쓰는 사람: 질문하고 답을 받는 수준을 넘어 에이전트 런타임 개념을 이해하고, 파일 시스템 위에서 AI에게 행동 권한을 주어 자기 업무를 AI가 할 일과 사람이 할 일로 병렬화하는 사람이 진짜 일잘러다.
• 개인 사이트 운영: Networked Thinking(옵시디안, Logseq 등)에 관심이 많아 시작했고, 남에게 보여주려 하기보다 생각을 구조화하는 디지털 홈으로 관리하기를 강력히 추천한다. 스펙용으로 만들면 방치되기 쉽다.
• 개인 연대기: 초등학생 때 스티브 잡스를 좋아해 UI에 관심을 가졌고, 중학생 때부터 실리콘밸리 창업을 목표로 미국 유학을 꿈꿨다. 고등학교 국제반을 거쳐 캘리포니아에서 학사와 석사를 마쳤다. 고부가가치 산업을 해야 한다는, 지금 보면 틀린 가설을 세우고 의료 AI(루닛)에 2년간 몸담았으나 업계의 폐단을 확인한 뒤, 현재는 더 제네릭한 서치 인텔리전스 분야로 옮겼다.