주의력 설정

우리는 내가 어떻게 조종당하고 있는지 알 권리, 그리고 그걸 직접 끌 권리가 있다고 믿는다. 주의력 설정은 주의력을 "뽑아 먹는" 제품을 규제해서 소비자가 주도권을 되찾게 하는 현실적인 방법을 보여 준다.

주의력 경제는 설득형 디자인 기법으로 사람의 약점을 파고들어서 우리의 주의력을 뽑아 간다. 광고로 먹고사는 비즈니스 모델에, 사람의 주의력은 한정돼 있으니, 이 회사들은 앞으로도 우리 뇌를 더 잘 납치하려고 계속 경쟁할 거다.

근데 정책을 만드는 쪽에서는, 정치권(정부)이든 생태계를 쥔 쪽(Apple, Google)이든, 이런 제품의 디자인을 어떻게 규제해야 할지 뚜렷한 길이 없다.

최근 EU가 내놓은 디지털 서비스법에는 '다크 패턴'을 금지하겠다는 내용이 들어 있다.

"새 규칙에 따라 '다크 패턴'은 금지된다. 온라인 플랫폼 제공자는 이용자가 자유롭게, 충분히 알고 결정을 내리는 능력을 속이거나 조작하거나, 그 밖에 실질적으로 왜곡하거나 해치는 방식으로 온라인 인터페이스를 설계, 구성, 운영해서는 안 된다."

근데 제품 디자인은 애매한 영역이다. 흑백으로 딱 나뉘지 않는다. 조작과 주의력 착취 문제는 다크 패턴보다 훨씬 넓다. 제일 인기 있는 소셜 미디어들은 중독 루프가 사용자 경험의 한가운데에 박혀 있다. 선이 흐릿하다.

여기서 주의력 설정이 나온다.

기본 아이디어는 이렇다. 사용자가 자기가 어떻게 조작당하고 있는지 알게 해 주고, 제일 빠져들게 만드는 기능들을 골라서 끌 수 있는 도구를 준다. 그렇게 주의력, 인지, 행동의 주권을 되찾는 거다.

대충 이런 모습일 수 있다.

사용자가 1,000만 명이 넘는 제품이라면 앱 심사를 통과하는 조건으로 a) 참여도를 끌어올리려고 쓰는 기법을 투명하게 밝히고 b) 그 기법과 기능을 끌 수 있는 옵션을 주도록 할 수 있다.

설득형 디자인을 쓰는 제품이라면 그 기법과 기능을 하나도 빠짐없이 앱스토어 "영양 성분표"에 적어야 한다. 그리고 주의력 설정에서 사용자가 그걸 끌 수 있게 한다. 이 기법들이 어떻게 돌아가는지, 왜 끄는 걸 고려해 볼 만한지 알려 주는 교육용 요소를 붙여도 좋다.

앱마다 이게 어떻게 보일지 몇 가지 예를 들어 보자.

예시

Facebook

Facebook이라면 시간순 피드를 고르고, Reels 같은 짧은 영상을 전부 숨기고, 추천 콘텐츠를 끄기만 해도 완전히 달라진다. 오른쪽은 내가 즐겁게 쓸 만한 Facebook이다. 왼쪽은 그냥 내 폰에 두기 싫은 Facebook이다.

YouTube

YouTube를 열 때는 대부분 뭘 할지 분명히 정해 두고 연다. 노래를 틀거나, 친구한테 특정 영상을 보여 주거나, 완벽한 수란 만드는 법을 배우고 싶거나.

근데 YouTube는 자동 재생 광고를 내 얼굴에 들이밀고, 아마 보면 진짜 재밌을 영상과 쇼츠를 끝도 없이 보여 준다. 그러다 계획에 없던 2시간이 날아간다. 시청 시간의 70%가 YouTube 알고리즘이 추천한 영상에서 나온다니까, 내가 마음먹고 보러 간 그 영상 하나의 문제가 아니다.

주의력 설정이 있으면 추천 영상을 끄고, 자동 재생을 막고, Shorts 탭을 없앨 수 있다.

Instagram

Facebook처럼 Instagram도 '재밌는' 영상 한 무더기를 볼 때보다 친구들이 뭐 하고 사는지 볼 때가 훨씬 값지다.

시간순 피드에 "탐색 탭 숨기기"랑 "추천 콘텐츠 숨기기"까지 있으면, Instagram을 다시 폰에 깔아 두고 내가 팔로우하는 100명 남짓이 뭐 하고 사는지 가끔 들여다보는 것도 해 볼 만할지 모른다.

TikTok

TikTok에도 진짜 건강한 콘텐츠가 있긴 하다. 근데 동시에 For You 페이지 밑에서 돌아가는 알고리즘은 우리를 계속 스크롤하고 보게 만드는 데 무섭도록 능하다. 주의력 설정이 있으면 몰아보기에 빨려 들어가지 않고 보고 싶은 것만 볼 수 있다.

이건 할 수 있고 도움이 될 만한 것들의 예시일 뿐이다. 결국 목록은 이 분야의 최전선을 쫓는 독립 단체들의 컨소시엄이 만들어야 한다.

기본 원칙은 이거다. 사용자 참여도를 끌어올리는 디자인 기법을 쓴다면, 사용자가 그걸 끌 수 있게 해야 한다.

Facebook 디자인팀과 평범한 사용자 사이의 힘의 차이는 어마어마하다. 그쪽은 영문도 모르는 고립된 개인을 겨냥한 무기급 행동 교정 기술을 쥐고 있다.

이 회사들은 비즈니스 모델 때문에 무슨 대가를 치르더라도 참여도를 최대로 끌어올리려 한다. 그러니까 사용자에게 최선인 쪽으로 행동해야 할 주의 의무를 지킬 거라고 믿을 수가 없다.

공정한 판을 만들고 힘의 균형을 되찾으려면, 사용자가 무슨 일이 벌어지는지 알고 이런 기능들을 골라서 끌 수 있어야 한다.

이 회사들은 국가급 규모에 공공 인프라급 네트워크 효과와 lock-in을 갖고 있다. 싫으면 떠나면 된다는 말이 안 통한다. 그냥 떠날 수가 없다. 지금은 그게 얼마나 조작적이든, 정신 건강을 얼마나 망가뜨리든, 주는 대로 받아야 한다는 뜻이다.

어쩔 수 없이 남아야 한다면, 적어도 내 조건대로 남을 수 있어야 한다. 프라이버시뿐 아니라, 특히 주의력과 조작에 관해서.

의심

엄청 대담한 제안이라는 거 안다. 이런 의심이 들 거다.

• 다른 회사 제품에 전례 없는 방식으로 간섭한다
• 법적, 정치적 반발은 거의 피할 수 없다
• 대체 무슨 근거로 이걸 하나?
• 사용자들이 감당 못 할 거다

다 타당한 걱정이다. 근데 잠깐만 접어 두자. 만약 내가 이 의심들을 전부 풀어 주고, 물 샐 틈 없는 법적 근거 위에서, 사용자가 쉽게 쓸 만큼 단순하게 만들 수 있다면, 그건 옳은 일일까?

나는 그렇다고 믿는다. 그리고 a) 이런 정당성의 근거를 만드는 것도, b) 단순하게 만드는 것도 가능하다. 답해야 할 근본적인 질문은 두 개다.

1: 뭐가 참여도를 최대로 끌어올리는 기능이고, 그건 누가 정하나?

어떤 기능이 주의력을 최대로 뽑아낸다고 누가 말할 수 있나? 좋은 UX와 조작의 경계는 어디인가? 나는 이게 꽤 쉽게 답할 수 있는 질문이라고 본다. (Apple이나 입법자들이 돈을 대는) 기초 연구를 바탕으로 독립 단체들의 컨소시엄이 쓸 만한 정의를 충분히 내놓을 수 있을 거다.

2: 법적 정당성의 근거로 뭐면 충분할까?

감시 산업 복합체는 당연히 반발할 거고, 반발할 방법도 얼마든지 있다. Apple이나 EU는 무슨 근거로 이런 요구 사항을 정할 수 있을까?

정당성의 근거로 특히 가망 있어 보이는 틀이 두 개 있다.

접근성

참여도를 최대로 끌어올리는 제품을 "모두에게 나쁘다"고 몰아가는 대신, 문제적 스마트폰 사용과 소셜 미디어 중독이 인구 일부에게 장애가 되고 있다고 꽤 직관적으로 주장할 수 있다.

자제력이 약해서든, 정신 건강 문제든, 불안정한 삶의 형편이든, 뭐 때문에 조작적인 디자인과 값싼 도파민에 더 취약해졌든 상관없이, 강박적인 행동과 깊어지는 중독의 악순환은 사람의 안녕과 생산성을 망가뜨릴 수 있다.

신경다양인이나 다른 이유로 불리한 사람들이 이런 제품을 안전하고 제대로 쓰는 데 필요한 도구를 제대로 주지 않는다는 건, 우리 사회에서 제일 취약한 사람들을 돕는 걸 소홀히 한다는 뜻이다.

부당한 영향력

설득형 기술, 특히 소셜 미디어는 부당한 영향력을 행사한다. 다른 맥락에서는 이미 법적으로 인정되는, 심각하고 체계적인 조작이다. Apple 같은 플랫폼 제공자는 고객을 이런 부당한 영향력으로부터 지킬 신인의무가 있다.

심리학자들이 내놓은 엄밀한 법적 정의에 따르면, 설득형 기술은 설득에서 강요로 넘어가는 문턱을 이미 넘었다. 그러니 부당한 영향력으로 분류해야 한다.¹

설득형 기술 맥락에서 부당한 영향력의 탄탄한 법적 정의를 세우는 데 자원을 크게 쏟자고 제안한다. 레드팀과 위험 분석을 거듭 돌리다 보면, Apple이나 정책 입안자가 이걸 주의력 설정의 법적 근거로 자신 있게 쓸 수 있는 지점까지 갈 수 있을 거다.

Facebook 같은 회사들은 불평할 거고, 법적 반발도 있을 거다. 그래도 그쪽이 민주적인 법정에서, 입법자들과 이 회사들의 비뚤어진 관행을 누군가 제대로 짚고 대응해 주길 기다려 온 대중의 눈앞에서, 부당한 영향력이 아니라는 걸 입증해야 한다.

법률 전문가들이 확실한 논리를 세울 수 있을 만한 설득형 기술의 특징 네 가지가 눈에 띈다.

1. 특권적 정보. 정교한 심리 프로필, 수천 개의 데이터 포인트, 사용자마다 수년 치 메타데이터를 쥔 소셜 미디어 회사는 특권적 정보를 빠짐없이 갖고 있다.
2. 통계적 영향력. 어떤 기능이나 디자인 변경이 통계적으로 믿을 만하게 실제 행동을 바꾼다면, 그건 부당한 영향력의 충분한 근거가 된다.
3. 힘의 비대칭. Facebook이 가진 데이터와 그걸로 사용자 행동을 바꾸는 능력은, 평범한 사용자가 그 조작을 알아채고 이해하고 막아 내는 능력보다 몇 자릿수는 크다.
4. 충분한 설명에 따른 동의가 없음. 사용자 대부분은 알고리즘이, 하물며 무기급 행동 교정 기술이 자기를 상대로 돌아가고 있다는 걸 전혀 모른다. Facebook의 연구를 보면 사용자가 눈치채지 못하게 감정과 행동을 바꿀 수 있다.

변연계 자본주의가 부도덕하다는 문화적, 윤리적, 철학적 논의는 이미 차고 넘친다. 광고 수익을 노리고 사정없이 주의력을 붙잡고 행동을 바꾸는 게 부당한 영향력이 아니면 대체 뭐가 부당한 영향력인가?

해 볼 가치가 있는 일이다. 문화적 변곡점을 만들고 역사의 옳은 편에 설 기회다.

수억 명의 사용자 경험을 직접 낫게 만들어서, 그 사람들이 살고 싶은 삶에서 덜 흐트러지게 도울 기회이기도 하다.

근데 왜 주의력 설정에서 멈추나? 의도치 않은 소셜 미디어 사용을 줄일 기회는 셀 수 없이 많다. 사람들이 기술을 더 의도적으로 쓰도록 돕는 방법 중 우리가 제일 좋다고 생각하는 아이디어들을 소개한다.

의식적인 UX 개입

앱을 열 때 한 번 멈추게 하고 다른 활동을 권해서 쓰는 시간을 줄인다

iOS가 정신을 흩트리는 앱을 계속 쓰기 전에 잠깐 숨 고를 틈을 주고, Siri 제안으로 아무 생각 없는 스크롤보다 끌릴 만한 활동을 권할 수도 있다.

이미 one sec이나 Potential 같은 앱으로 이런 경험을 할 수 있긴 한데, 설정이 좀 필요하고 Apple이 직접 만들 수 있는 것보다 UX가 아쉽다. 더 좋은 건 Apple이 AttentionKit을 내놓고, 개발자들이 ScreenTime API 데이터 같은 걸 바탕으로 다른 앱 위에 이런 모달을 띄울 수 있게 해 주는 거다.

이런 개입이 들어갈 만한 자리는 세 군데다. 앱을 열 때 뜨는 모달, 앱 위에 덮는 오버레이, 시간 제한 제안.

그러면 개발자 생태계의 기발함을, 사람들이 멍하니 있는 순간에 주의력을 잘 나눠 쓰고 더 나은 선택을 하도록 돕는 데 쓸 수 있다. 스크린 타임 15분 연장을 계속 눌러 대는 것보다 훨씬 나은 사용자 경험일 거라는 건 말할 것도 없다…

그 밖의 제안

인간적인 기술 제품, 개념, 아이디어를 모은 라이브러리를 통째로 만들어 뒀지만, 여기서는 특히 세 가지를 짚고 싶다.

연구자에게 스크린 타임 데이터를 열어 주자

문제적 스마트폰 사용과 효과적인 개입에 대한 과학을 더 잘 알아야 한다. 고민할 것도 없는 일인데, 아직 안 됐다는 게 아쉽다.

ScreenTime API와 AttentionKit

Apple이 ScreenTime API로 지금의 집중 모드, 스크린 타임 일정, 이벤트(예를 들어 사용자가 20분째 쓰고 있다)를 공유할 수 있다.

그러면 YouTube 같은 앱이 업무 집중 모드일 땐 집중용 음악을, 피트니스 모드일 땐 운동 영상을, 하루를 마무리할 땐 차분한 영상을 추천할 수 있다.

더 큰 기회는 개발자들이 사람들의 주의력과 의도를 더 존중하는 경험을 설계하게 해 주는 데 있다. 그 결과 Apple 제품도 더 건강하고 즐거운 경험이 된다.

사람들이 주의력을 원하는 데 쓰고 더 나은 선택을 하도록 돕는 데 특화된 앱 생태계가 통째로 생길 수 있다. 그런 목적에 맞춘 도구와 ScreenTime 데이터가 있으면, one sec이나 Potential 같은 앱이 훨씬 우아하고 힘이 되는 경험을 만들 수 있다.

메신저를 떼어 내자

Facebook이나 TikTok 같은 초대형 플랫폼은 10대 한 세대 전체에게 제일 중요한 사회적 공간이다. 지금의 디자인은 이 세대의 정신 건강을 심각하게 위협하는데, 그렇다고 서비스를 아예 끊으면 사회적으로 큰 대가를 치르고 따돌림을 당한다.

이런 초대형 플랫폼(사용자 5천만 명 이상)에는 설득형 디자인 기법을 하나도 넣지 않은 전용 메신저 앱을 내놓도록 해야 한다. 그러면 정신 건강을 내주지 않고도 사회생활을 할 수 있다.

아무튼

이 개념이 광고 기반 비즈니스 모델 때문에 생기는 동기의 어긋남이라는 근본 문제를 풀지는 못한다. 근데 정말 중요한 지점에서 판을 공정하게 만든다. 사람들에게 자기 경험을 스스로 통제할 힘을 준다.

주의력 설정은 정책 입안자와 생태계 제공자가 사용자에게 이 제품들을 원래 의도대로 쓸 수 있는 도구를 쥐여 주는 현실적인 방법이다.

주의력 설정은 사용자가 이 제품들을 자기 조건대로 쓰게 해 주기 때문에 실제로 힘이 있다. 건강하지 않은 둠스크롤링과 몰아보기의 끝없는 유혹을 받아들일 필요가 없다. 공적인 공간에서 스스로를 쫓아내지 않고도, 자기 주의력과 주도권을 자유롭게 쓸 기회를 얻는다.

원 모어 띵

Potential은 주의력 설정을 처음으로 도입한 앱이다. 폰을 의도적으로 쓰는 데 10배는 더 도움이 되도록 공들여 설계하기도 했다.

우리가 할 수 있다면 Facebook도 할 수 있다.

Footnotes

1. Social Media Enables Undue Influence, The Consilience Project, 2021 ↩