스텔스 봇 금지법 반대 칼럼: 익명 크롤러 신원 공개 의무화가 나쁜 봇은 못 막고 언론 조사와 아카이빙을 겨눈다
- 미디어 업계 관계자 300여 명이 의회에서 밀어붙이는 Stealth Bot Prohibition Act는 FTC에 최대 $53,000 벌금 권한을 주지만, 무엇이 웹사이트 운영을 손상할 정도인지 기준을 전혀 정의하지 않음
- 뉴욕주 Stealth Crawler Prohibition Act는 뉴스 사이트에만 적용되고, 손해 입증 없이 크롤러 신원을 밝히는 소환장을 받을 수 있음
- 신원을 밝히고 분당 1만 회 접속하는 기업은 법을 지키지만 경쟁사 관행을 익명으로 조사하는 기자는 위법이 되고, 조사 대상이 감시당한다는 걸 알면 행동 자체가 바뀐다는 게 글쓴이들 지적임
- Wall Street Journal은 2022년 퓰리처상을 받은 조사에서 공무원 1만 2천 명의 금융 공개 자료 3만 1천 건을 스크래핑으로 분석해 연방 공무원 4분의 1이 자기 기관이 규제하는 업종 주식을 거래한 사실을 밝혀냄
- Internet Archive의 Wayback Machine은 크롤러로 1조 페이지가 넘는 웹페이지를 보관했고 이 기록이 수천 건의 기사와 수백 건의 법정 사건 증거로 쓰임
Hacker News opinions
Tech Policy Press는 2022년에 오미디어 네트워크에서 암호화 메신저 취약점 연구비를 받았음. 근데 omidyar.com은 나를 오픈웹 반대 성향으로 판단했는지 접속이 차단돼 있더라. 이 글은 AI 로비 글이고, FTC가 최대 $53,000 벌금 때린다는 조항의 실체는 봇이라고 밝히고 robots.txt 지키거나 차단당하면 되는 것뿐임. 원래 그게 상식이었는데 몇몇이 인터넷을 체계적으로 망가뜨리기 시작한 거지.
이 법이 사람 사용자한테도 적용되는 거야? 내가 잘못 읽은 건가.
robots.txt 안 지키는 놈은 그냥 차단하면 됨. 내 경험상 robots.txt를 아예 안 두는 사이트가 훨씬 많더라. 429로 물러나는 것보단 Crawl-Delay를 쓰고 싶은데 봇은 자기 신원을 알릴 방법이 제한적임. 난 고정 IP 대역이랑 UA를 쓰는데, 중국 트롤러봇들은 스마트TV 리지덴셜 프록시에 남의 UA를 베껴 씀.
이 법은 일반 사용자한테나 영향 주고 감시를 늘리는 쪽이라 수상함. 더 큰 문제는 인터넷이 글로벌이라 과금이 미국에만 적용된다는 거임. 러시아나 중국, 인도, 프랑스 봇이 긁어대는데 그게 봇을 줄이긴 하나? 비즈니스 모델 모독죄를 새로 만드는 게 목적 같음.
신원을 알면 차단할 수 있음. DDoS로 고소하는 것도 이미 가능하고.
전제부터가 자기가 뭘 요구하는지 모르는 것 같음. 웹사이트에 접속하는 사람은 아무도 없고 브라우저도 그냥 컴퓨터 프로그램임. 그럼 브라우저도 봇인가? 광고 차단기도? RECAP이나 NewPipe는? 구분 기준을 안 주면 그냥 적대적인 제안임.
지역 차단이 늘어나는 건 봇 트래픽 때문임. 어느 나라에서 물건 파는 가게가 임의의 외국 사용자를 받아줄 이유가 없음. 익명 크롤러 쓰는 기자는 자기 이익을 위해 데이터 긁는 나쁜 놈과 구분이 안 됨. 특히 광고 수익으로 지식을 파는 블로그는 그 지식이 LLM에 압축되면 그냥 사라짐.
이걸 진짜로 집행할 방법이 있다고 안 봄.
모든 봇은 어딘가의 인간을 대신해 움직임. 봇은 대체로 좋음. 기존 웹 방식이 효율적이지 않으니까 다들 봇을 문제 삼는 거고, 웹을 만드는 방식을 바꿔야 함.
'오픈 웹'을 외치는 사람들이 페이스북이랑 구글 가치관을 그대로 물려받은 게 제일 답답함. 오픈소스 사이트 들어가면 쿠키 동의창에 팝업 광고에 이메일 요구에 아니메 소녀가 계속 괴롭힘. Anubis나 Cloudflare도 사용자 스트레스 올리고 작업을 늦춤. CAPTCHA랑 쿠키 배너는 WCAG 자동 F학점 줘야 함.
연방 공무원 중에 nVidia 주식 가진 사람이 얼마나 될지 궁금함. 반대로 nVidia 직원이 401k에 국채 담은 건 또 얼마나 될까. 대기업과 정부가 서로 주식을 들고 있는 걸 이해관계자 자본주의라고 부르는 건 새로운 차원임.
사이트 하나만 돌려봐도 알겠지만, 이 법이 나쁜 봇 막는 건 객관적으로 맞음.
사이트 주인들은 자기 '효과적인' 차단에 휘말리는 사람들에겐 관심이 없거나 몰라.
내 개인 사이트 긁는 봇 주인을 고소하고 싶지만, 큰 글로벌 기업이면 답이 없음. 일반인이 아마존이나 알리바바를 상대로 나설 수는 없잖아.