AI에 사고를 통째로 맡기는 현상, 해커뉴스에서 '깊은 이해' 가치 논쟁으로 번져
- 글쓴이는 켄 리우의 2012년 단편 'The Perfect Match'에 등장하는 만능 AI 비서 Tilly를 인용해, 사용자가 아침 메뉴부터 데이트 상대까지 AI에 맡기는 모습이 현실이 됐다고 지적함
- 샌프란시스코 스타트업 행사에서 만난 한 남성은 항상 모든 대화를 녹음하는 마이크를 달고 다니며 Claude(Fable)가 자신보다 비판적 사고를 잘한다며 사고를 통째로 맡긴다고 말함, 그의 스타트업은 동의 없이 엔지니어들의 작업을 캡처해 대체하는 사업을 함
- 검색엔진 시절엔 질문 분해, 소스 평가, 답 종합을 사람이 직접 했지만 Google Deep Research, OpenAI Deep Research 같은 도구는 이 중간 과정 자체를 대신 수행해 몇 분 안에 완성된 답을 내놓음
- METR의 Task-Completion Time Horizons 연구에 따르면 프론티어 AI 모델이 특정 소프트웨어 작업을 50% 확률로 완수하는 소요 시간이 점점 늘어나고 있음
- 해커뉴스 댓글에서는 AI 시대에 오히려 교과서로 기초를 다져야 한다는 의견과, AI와의 질문-검증 루프가 학습에 더 효과적이라는 의견이 맞서며 '깊은 이해가 상품화될지 반대로 더 희귀해질지'를 두고 논쟁이 벌어짐
Hacker News opinions
나는 오히려 반대로 함. AI 시대일수록 기술을 더 깊게 파야 한다고 봐서 후배들한테 항상 교과서 펴고 공부하라고 함. 깊은 이해가 곧 상품(commodity)이 될 거라고 확신함
어려운 개념 배우기는 쉬워졌는데 그 개념 이해 없이 결과물 만들기도 쉬워짐. 결국 목적의식 갖고 도구 쓰는 훈련이 필요한 거지
나도 후배들한테 교과서 보라고 하는데, 걔들이 만든 거 보면 데이터 모델도 엉망이고 학문적 기초가 없어서 손코딩으로는 절대 못 만들 수준임
commodity라는 건 대량으로 있을 때만 가치가 낮은 거 아님? 깊은 이해가 흔해진다고 가치가 떨어지는 게 아니라 오히려 반대일 수도
AI는 훈련 데이터 많은 중간 난이도 작업은 정말 잘함. 그럼 사람이 가치를 낼 곳은 결국 분포의 끝단, 더 깊고 복잡한 주제밖에 안 남음
'그래서 뭐 했어?'만 AI한테 물어보는 게 진짜 딥다이브임? 디버깅하고 머리 쥐어뜯는 과정 없이 나온 이해는 예전 방식이랑 질이 다르다고 봄
교과서 읽으라는 것보다 AI를 비판적으로 쓰는 법을 가르치는 게 낫지 않을까. 질문하고 답 받고 의심하고 검증하는 루프를 돌리는 게 나한텐 교과서보다 훨씬 학습 효과 좋았음
'너 이제 매니저처럼 생각해'라는 말 진짜 싫음. 자동화든 사람이든 관리하는 거 자체가 싫어서 예전부터 승진도 거절했음
LLM이 생성한 텍스트 읽는 게 왜 책 읽는 것보다 '우리의' 이해를 더 깊게 만든다는 건지 이해가 안 됨
좋은 매니저들도 결국 기술을 깊게 파고듦. 코드를 더 쓰려는 게 아니라 개발자가 허튼소리하는지 판별하려고 그러는 거임
깊은 지식은 commodity가 되는 게 아니라 정반대 방향으로 갈 거라고 봄
나는 AI로 진짜 학습을 함. Claude가 정보를 다 떠먹여주지만 결정은 내가 내림, 리서치를 AI로 대체했을 뿐임
나도 비코딩 업무에서 처음으로 진짜 유용하다고 느낀 게 이거임, 안 써본 Azure 관련 작업 리서치할 때
직접 뭘 만들 때는 다름. AI한테 결정을 너무 많이 넘기게 되는 유혹이 진짜 강함
AI가 너무 아부하듯 답해줘서(sycophantic) 그게 문제임
AI로 진짜 배우는 사람도 있지만 대부분은 그렇게 안 씀. 10M 파라미터 모델을 직접 학습시킬 때 AI로 개념 설명받고 시각화까지 만들었지만, 전체 코드를 그냥 짜달라고 안 하고 일부러 씨름하면서 배웠음. 의도적으로 노력해야 진짜 학습이 됨
계산기 쓸 때도 항상 머릿속으로 답을 먼저 어림잡아보는 습관이 있음, LLM한테도 똑같이 함. 대신 답을 그냥 안 믿고 뉘앙스는 감안함
슬라이드룰이나 로그표로 계산 가르치면 애들이 전략부터 세우고 계산했을 거라 생각함, 지금은 그 그런트워크가 사라지면서 수학적 감각 자체가 퇴화한 거 같음
계산기 비교는 의미 없음. 계산기는 뭘 넣을지 몰라도 아무것도 안 해주는데 LLM은 그 과정 자체를 다 없애버림
회사에서 커넥션 풀링 전략 정할 때 다들 자기 판단은 없고 자기 에이전트가 뭐라 했는지만 우기고 있음, 아무도 모른다는 걸 인정 안 하고 그걸 무능함으로 취급함