중앙 조정자 없는 AI 연구 환경 'Station', 5개 수학 문제에서 기존 문헌에 없던 결과 보고

전문 수학자가 말한 요지는 AI가 새것을 못 만든다는 게 아니었음. 방대한 기억을 바탕으로 기존 접근을 빠르게 시험하고 재조합하면 수학계 상당수를 앞설 수 있다는 뜻이고, 그게 창의성인지와 창의성의 범위가 어디까지인지는 아직 열린 문제임.

최종 수학 검증자는 외부에 남겨야겠지만, 중간 보상 체계는 에이전트가 만들게 해볼 만함. 학술지, 동료 심사 기준, 평판, 컴퓨트 배분 규칙을 스스로 만들면 전문화가 생길 수도 있고 군집 사고가 생길 수도 있으니, 설계된 제도와 비교 실험하면 됨.

개별 에이전트는 컨텍스트 제한 때문에 오래 지속되지 않는데, 그 상태에서 만드는 평판 신호가 긴 기억을 가진 인간 사회의 신호와 어떻게 달라질지 궁금함.

'휴일'이나 '사고' 같은 의인화는 시스템을 잘못 이해하게 만들 수 있음. 다만 그런 말을 계속 쓰면 인간 행동만 신비롭게 보는 태도도 줄어들 수 있어서, 나는 후자 쪽에 약간 더 기움.

여러 모델이 서로 작업을 비판하고 합의하는 검토 루프가 핵심이라고 봄. 적대적 검증과 창의적 탐색이 같이 있어야 함.

나는 커스텀 하니스를 오래 만들면서 용어가 설계에 큰 영향을 준다는 걸 봤음. 그래서 '에이전트' 대신 '스레드'라고 부르기 시작했음.