'Attention is all you have' 에세이: 테트리스 효과로 설명한 추천 알고리즘의 주의 탈취와 느린 인터넷 복귀 제안
- 테트리스 효과(오래 집중한 대상이 생각을 형성하는 심리 실험)를 근거로 추천 알고리즘이 주의를 빼앗는 구조를 지적한 블로그 에세이임. YouTube, Spotify, LinkedIn, Reddit 사례를 들어 화면에 뭐가 뜰지 사용자가 아니라 알고리즘이 정한다고 주장함.
- Spotify는 실제 곡 사이에 AI 슬롭을 끼워 넣어 아티스트 로열티 지불을 피한다는 지적, LinkedIn은 아는 사람 소식 대신 낯선 사람 의견을 노출하고 그 낯선 사람들이 마이크로소프트 투자처를 홍보한다는 지적이 나옴. Reddit 의견은 LLM과 러시아 트롤이 서로 대화하는 것일 수 있다고 씀.
- 추천 알고리즘 이전에는 북마크 수십 개를 직접 골라 방문했고 Encyclopedia Dramatica나 Rotten.com 같은 사이트도 스스로 찾아가야 했음. 인터넷에는 끔찍한 것도 있었지만 레시피나 고양이 영상 다음에 시체 사진이 추천되지는 않았음.
- 블로그, RSS, 튜토리얼로 돌아가려면 콘텐츠가 무한하지 않고 클릭마다 갱신되지 않는 느린 인터넷에 적응해야 한다고 씀. 의도적 인터넷은 지금도 존재하고 기업 웹 아래 묻혀 있을 뿐이라고 덧붙임.
- 해커뉴스 댓글에서는 라이코스, 야후, MSN 커스텀 홈페이지도 클릭베이트 이미지와 링크, 광고로 가득했다는 반박이 나왔고, 디지털 광고는 알고리즘 피드 이전부터 있었고 선택은 환상이었다는 지적도 있었음.
Hacker News opinions
책이 좋은 이유가 이거임. 책은 주의를 낚아채려는 시도가 아예 없음. 다른 앱들은 눈알을 뽑아가려고 달려드는데.
우리 독서 모임에서도 요즘 주류 책들이 점점 짧아진 주의집중력에 맞춰 쓰인다는 얘기 나왔음. 같은 디테일 반복하고 플롯은 단순해지고 있어서 책이라고 자동으로 면역은 아님.
인터넷 초기 얘기는 좀 틀렸음. 라이코스, 야후, MSN 커스텀 홈페이지가 기본이던 시절에도 클릭베이트 이미지랑 광고가 깔려 있었고 브라우저가 그걸 기본 홈으로 밀었음. 웹 아카이브에 2002년 MSN 홈페이지 그대로 남아 있더라.
마이크로소프트는 수십 년째 같은 걸 팔고 있음.
난 전략이 바뀌어야 한다고 봄. 명확한 인생 목표가 없으면 나머지 개선은 전술적 승리에 그치고 시간 지나면 사라짐. 영향 없는 개인 프로젝트 붙잡고 있는 것도 트위터 덤스크롤만큼 나쁨.
그럼 위원회가 사회에 유용한 쪽으로 주의를 분배하게 하면 어떨까. 옆집에서 딱 내 전문성에 맞는 사람을 찾고 돈도 낼 의향이 있으면, 그 사람이 보기 싫어하더라도 그 공고가 내 피드 맨 위에 떠야 경제에 도움이 됨.
《The Ecology of Attention》이 주의를 생태계로 보고 자본주의의 마지막 경제적 개척지라고 말함. 모든 순간의 주의를 상업 주체가 다투는 세상이라는 예측이 지금이랑 꽤 비슷함.
추천 알고리즘 이전에도 선택은 환상이었음. 디지털 광고는 알고리즘 피드에서 시작한 게 아님.
그래서 나는 쓰는 플랫폼에서 알고리즘 추천을 다 껐음. 앱 설정에서 끄거나 웹에서 uBlock, AdGuard로 방해 요소를 숨기면 팔로우한 채널만 남고 RSS도 있음. 진짜 머리가 맑아짐.
5년 안에 인터넷이 크게 바뀔 것 같음. 월드 가든에 초대 전용, 인간인지 검증하는 서비스가 늘어날 거고, 지금은 글도 영상도 사람인지 로봇인지 구분이 안 됨.
키 입력이나 터치가 사람한테서 나왔다는 걸 암호학으로 보장하는 기술이 나올 수 있지만 로봇이 물리 스위치를 누르면 똑같음. 법으로 표시만 강제하는 걸 넘어 탐지 기술이 필요하고, 애플 레퍼런스 이미지가 그 방향의 한 걸음임.
올해 초에 SNS를 다 끊었는데 최고의 결정이었음. 스마트폰 이전에는 덤스크롤 앱이 없었다는 걸 떠올린 게 계기였고, 폰을 들려다가 할 게 없다는 걸 깨닫고 그냥 놓게 되더라. 그래서 항상 책을 들고 다니기 시작했고 올해 4권 읽었음.
지금 해커뉴스 하고 있는데 해커뉴스도 SNS임.
폰에서 손 떼고 나면 진짜 할 게 없다는 걸 깨닫는 순간이 문턱인데 더 일찍 넘었으면 좋았음. 그때 풀려나는 시간과 에너지가 크고, 요즘 같은 시대에 책 4권은 그 자체로 대단함.
나는 여기에 모든 알고리즘 피드 제거하고 News Feed Eradicator 쓰고, 폰은 오전 9시부터 오후 2시까지 집중 모드로 둠. 직장 사람들이 화낼 줄 알았는데 다들 바로 적응했음. 다음은 Deep Work에서 본 집중 작업 블록 미리 짜기.
노동자가 노조 생기기 전까지 보호받지 못했던 것처럼 우리도 주의 탈취 알고리즘에서 보호받지 못하고 있음. AI가 노조보다 소비자한테 더 많은 걸 해줄 수 있겠지만, 지금은 이걸 대중에 풀 유인이 없음.
농담임? 사용자를 정신병 구렁텅이로 몰아넣는 챗봇이 그 해결책이라는 거임?
이런 생각은 하고 있었는데 정리된 글을 읽으니 좋았음.