에이전트가 다 해주는 2026년, '10x가 100x 됐다'는 관찰로 인간 엔지니어의 몫을 증명하려는 글

프로그램이나 소프트웨어는 인간 의식에서 나오는 거라 직관 같은 건 못 가져. 누군가 에이전트한테 가르쳐야 하는데 우리한테 그 지식이 없잖아.

뇌를 한 덩어리로 아는 사람이 많아서 그런 말이 나오지. 설명 못 한다고 못 만든다는 건 약한 논리임. 의식이 뭔지 모르니까 LLM이나 나무가 이미 갖고 있어도 우리가 모를 뿐일 수 있고, 확인할 방법이 없다는 게 더 무서운 거임.

LLM도 훈련 데이터에서 암묵적인 것까지 추론해. 직관은 시스템1 사고고 그게 LLM 기본 모드임. 체인오브소트가 실제 계산 과정을 반영하지 않는다는 연구도 있잖아.

나도 처음엔 암묵지가 차별점이라 봤는데, 강화학습 후처리가 바로 그 암묵지를 훈련하는 과정이더라. 결국 풍부한 환경과 좋은 피드백을 주는 게 관건임.

솔직히 지금 상태가 오래 못 갈 것 같음. 내 일은 거의 다 자동화됐고 풀 소프트웨어 팀 대체도 1년 안쪽이라고 봄. C-suite가 엔지니어가 뭐 하는지 들여다보는 순간 학살 시작임.

C-suite도 자동화될 판인데. 주주 대신 AI가 엔지니어 해고하겠지.

그럼 고객은 뭘 사는 거임? 자기 챗봇으로 제품을 바로 얻을 수 있으면 왜 회사에 돈을 냄? SaaS 종말도 올 수 있음.

HN 읽으면 가스라이팅 당하는 기분임. 다 자동화된다는 사람들은 대체 뭘 만드는 거임?

n+1만 나오면 끝이라고 몇 년째 듣고 있음. 얼마 전에 모델한테 변경 리뷰 맡겼더니 없는 문제 두 개를 지어냈고, 코드를 이해하고 있어서 겨우 잡았음. 이론상 다 한다는 얘기는 별로 재미없음.

샌드위치 모델 좋아함. 앞에서 뭘 할지 말하는 사람, 중간에 하는 사람, 끝에서 잘 됐는지 판단하는 사람. 중간을 AI가 다 해도 양 끝은 인간이 필요함. 앞을 없애면 페이퍼클립 최적화, 뒤를 없애면 슬롭임.

줌아웃하면 앞뒤는 결국 고객과 최종 사용자임. 그래도 도메인 지식 있는 전문가 도움은 필요하다고 봄.

보안은 계속 리스크임. 인간이 경계를 정하고 그 안에서 에이전트를 돌려야 함. 그 스웜을 누가 지시하나? 임원은 못 하니까 결국 엔지니어임.

과거 틀로 생각하고 있음. 일이 잘 풀리면 일을 안 해도 되는 세상을 고민해야지, 일자리 구하는 법만 생각하지 말고.