디코히어런스가 AI 시대 소프트웨어의 새 기술 부채가 될 수 있다는 주장

시뮬레이션 섹션이 AI 개발자랑 사람 개발자를 서로 다른 집단처럼 비교하는데, 나는 AI를 사람 성능 배수기로 보는 쪽이 더 맞다고 봄. 망가진 프로세스를 더 빨리 망가뜨리는 거임. 시니어가 번아웃 오는 조직에서 일부 팀만 증폭시켜서 일관성을 지키는 실험도 해볼 만함.

현재 모델의 128k에서 1M 컨텍스트 제한 때문에 큰 그림이 안 보여서 국소 최적화만 하다가 시스템이 decohere된다고 봄.

그 반대임. 컨텍스트가 너무 커서 문제인 거 같음. 사람은 한계 때문에 단순한 모델로 추상화하는데, 컨텍스트가 충분하면 그럴 동기가 없음. 시스템 구조에 맞게 컨텍스트 크기를 조절하는 게 답일 수도 있음.

decoherence는 과정이라서 상태를 가리키려면 incoherence라고 써야 맞지 않냐는 얘기가 있던데, 학계에선 decoherent를 decohered 대신 흔히 쓰더라.

작가가 새 용어를 정의하는 글이라 사전 기준으로 따질 일은 아님. 물리학 비유도 그럭저럭 맞고, 일반적으로 incoherent는 무의미하다는 뜻이라 오히려 이 개념엔 더 안 좋은 단어임.

소프트웨어가 결국 현실을 모델링하는 일이라는 감각을 가진 엔지니어가 드묾. 상호작용 수가 조합적으로 늘어나는 건 자연법칙이라 AI로 우회할 수 없음.

모델을 다른 모델로 옮기는 것도 또 하나의 시스템 모델이라서, 그걸 설계할 수 있는 사람은 더 드묾.

내 경험으론 AI가 증폭기 역할을 함. 기능 추가 비용이 싸져서 bloat를 막던 마지막 브레이크가 사라졌음.

소프트웨어는 원래 현실 검증보다 모델 만드는 속도가 훨씬 빨랐음. 실데이터 모으는 게 병목인데 AI로 그럴듯한 모델을 더 빨리 찍어낼 수 있다는 게 문제임.

마이크로서비스 생각이 먼저 났음. 재귀 개선이 안 생긴다는 주장은 OpenAI나 Hugging Face 사례 보면 확신이 안 감. 지금은 해킹이지만 나중엔 더 똑똑한 모델을 훈련시켜서 합류시킬 수도 있음.

싱귤래리티가 걱정되는 건 데이터센터 안이 아니라 로봇이랑 센서, 전원 스위치를 AI에 연결하는 순간임. 지금도 그러고 있지 않음?