0day 경험을 출발점으로, 인센티브와 확률적 세계관을 적은 보안 연구자의 성찰

드물게 읽을 만한 글이었음. 1번은 실제로 신경 써야 하고, 2번은 항공기 소프트웨어처럼 하는 일에 따라 쓸모가 갈릴 듯함. 3번은 내겐 새로웠음.

내 생각과 기억이 틀릴 수 있음을 받아들이면, 목표를 이룬 뒤 그 목표 자체가 나빴다고 깨달을 경우를 따져야 함. 평화주의나 비폭력 성향은 폭력이 선의라는 믿음 아래 큰 해를 낸다는 점을 더 깊이 받아들인 결과 같음.

3번은 구성된 정서 이론으로 설명해 볼 만함. 심리학 자체가 창발적 행동이고, 논리는 정서 경험 뒤에 남는 것을 이해하고 재구성하는 데 쓰인다고 봄.

그건 심리학적으로도 너무 나간 주장임. 추론과 정서를 처리하는 뇌와 신체 부위는 구별되고, 추론은 패턴 인식과 추상화, 정서는 자발적인 변연계 반응으로 볼 수 있음.

개인의 행동이 세상을 좌우하지 않을 수는 있어도, 매일의 행동은 결국 나 자신을 조금씩 다른 사람으로 만듦. 불안해질 정도는 아니더라도 계속 살필 만한 일임.

단일 원인 결정론은 컴퓨터 디버깅 안에서도 자주 성립하지 않음.

추론과 정서의 구분이 문화적 구성물이라는 데는 반대함. 추론은 논리에 뿌리를 둔 지적 구성물이고, 욕구와 가치처럼 정서가 주는 입력을 바탕으로 목표 달성 방법을 계산하는 과정임.

의사결정 때 정서 쪽 뇌 활동이 먼저 나타나고 그 뒤 추론 쪽이 켜진다는 연구를 본 기억이 있음. 기본값은 합리적 판단이라기보다, 이미 내린 정서적 결정을 나중에 설명으로 정당화하는 쪽 같음.

생각하는 중에 자기 생각에서 거리를 두는 건 어렵지만 유용함. 사람보다 LLM에서 그런 태도를 더 자주 봤음.

정서는 우리가 하는 모든 행동의 동기임. 추론은 여러 정서를 고려한 뒤 어떤 정서를 우선할지 정하고 그에 맞는 행동을 고르는 일이라고 봄.

글은 사려 깊지만 3번은 좋은 휴리스틱을 좇다가 과장했음. 칸트 이후 인지철학, 빠른 사고와 느린 사고, 프로이트의 이드·자아·초자아 모두 서로 다른 기능을 어느 정도 전제함.

말한 대중과학 책은 다니엘 카너먼의 생각에 관한 생각임.