스택오버플로우 블로그, "개발자가 도구에 집착하는 건 도구가 신뢰를 담고 있기 때문" AI 신뢰 하락 데이터 제시

아, 나는 이 글이 두서없어서 ChatGPT한테 TLDR 시켜봄. 요약하면 '개발자가 도구에 애착 갖는 건 오랜 경험으로 그 도구가 자기 생각의 확장이 됐기 때문이고, AI 에이전트는 빠르지만 확률적이고 불투명해서 그 신뢰를 깨뜨린다'는 거임. 내 경우도 40시간 걸릴 일을 8시간에 끝내서 좋아했는데, 실제로 써보니 메뉴 하나 고치니까 다른 데가 깨지는 식으로 여기저기 부서져 있더라

AI 도구한테 코드베이스 맥락을 충분히 주고 있는 거 맞아? 그리고 코드베이스 전체를 다 외우지 않아도 깊은 이해를 잃지 않게 AI가 도와줄 방법은 없을까

자동화 테스트 있다는 거 자체가 신기하네. 진짜 중요한 건 유닛/프로퍼티/e2e 테스트가 실제로 코드가 원하는 대로 동작하는지 증명하는 수준이어야 한다는 거고, 아키텍처도 테스트하기 쉽고 격리되게, 잘못된 상태 자체가 표현 안 되게 짜야 함. 안 그러면 AI는 계속 corner cutting하면서 슬롭을 던짐

생산성 주장은 다 의심스러움. 빨리 코드 뽑아내는 건 되는데 그걸 배포 가능하게 만드는 데 결국 시간 다 들어감. 내 경험상 병목은 항상 커뮤니케이션이었고, 속도보다 플랫폼 이해도랑 이론 지식이 훨씬 도움 됐음. 코딩 시간의 90%는 결국 엣지 케이스 처리, 즉 버그 잡는 거임

나는 매 턴마다 펀치리스트랑 표 형식 TLDR을 뽑게 함. AI가 끊임없이 떠드는 거 걸러내는 데 도움 됨

나 지금 이 댓글도 ZMK 펌웨어로 GitHub Actions 빌드해서 만든 기계식 키보드에, Tridactyl 깐 GVim으로 치고 있음. 몇 문단 치는 데 이렇게까지 복잡하게 만들 필요는 없는데, 몇 년 몇십 년 뒤에도 이 도구들은 다 바뀌겠지만 거기서 배운 교훈은 남을 거라 믿고 이렇게 함. 신뢰는 결국 소유권에서 나온다고 봄

나는 제로 트러스트로 움직임. 사람들은 어차피 날 안 믿을 핑계를 찾더라. 도구도 계속 바꾸는데 중요한 건 신뢰 얻기가 아니라 실력과 실행이라고 봄. AI 에이전트도 절대 샌드박스 없이 임의 명령 실행하게 'Yes, trust the AI' 안 누름. 보일러플레이트나 브레인스토밍, 리뷰용으로는 잘 씀

'핸들을 넘긴다'는 게 정확히 뭘 의미하는 거임? 제대로 된 샌드박스 안에서 권한 스킵하는 정도는 나는 괜찮다고 보는데, 리스크가 아예 없는 건 아니지만

'CI가 에이전트 시대엔 안 맞을 수도 있다'는 식의 추상적인 얘기는 사상가 포스팅용이지 실전이랑은 거리 있음. 내가 만든 venetianblinds라는 도구는 파일을 등간격으로 샘플링해서 보여주는데, gh repo read-file 같은 새 서브커맨드랑 조합하면 저장소 클론 없이도 에이전트가 파일을 꽤 잘 훑어봄

bash 안 쓰는 대안이 MCP 아니야? bash 자체도 LLM 입장에선 표현력 좋고 강력한 제어 표면이라 나쁘지 않다고 봄

범용 도구보다 도메인 특화로 손으로 깎은 도구가 압도적으로 나음. 브라우저 자동화가 딱 그 예시인데, 사람이 페이지 구조 이해해서 원시 DOM 수백만 바이트를 몇백 바이트 텍스트로 압축하면 raw DOM 접근보다 계단식으로 성능이 좋아짐. raw로는 10~15스텝 가면 바퀴 빠지는데 정제된 걸로는 100스텝 넘게도 문제 없더라

나는 오히려 LLM 덕분에 CI랑 자동화 테스트 인프라 짜는 게 훨씬 편해짐. 지루한 배관 작업 같은 건 LLM한테 맡기고 나는 중요한 부분에 집중하는 식으로 씀. 에이전틱 워크플로우가 일반 제품 코드보다 오히려 이런 영역에 더 잘 맞는 것 같음