Cloudflare, 검색 색인은 유지하고 AI 학습만 거부하는 Disallow AI Training 공개

Cloudflare, 검색 색인은 유지하고 AI 학습만 거부하는 Disallow AI Training 공개

  • Cloudflare가 검색 노출은 유지한 채 AI 학습만 거부하는 Disallow AI Training 설정을 발표했고, Apple, Google, Microsoft가 이를 존중하거나 기한을 정해 존중하기로 약속함.
  • 검색과 학습을 분리하지 않는 혼합 사용 크롤러를 다루기 위해 Accountable 지정을 만들었고, 학습 옵트아웃 수단, AI 요약 옵트아웃 수단, URL 단위 학습 노출 가시성, 학습 거부가 검색 결과에 영향을 주지 않는다는 보증 네 가지를 조건으로 요구함.
  • Cloudflare 사이트 가운데 검색 봇을 차단하는 비율은 1% 미만인데 학습 차단 수단을 켠 사이트는 17%임. 검색은 허용하고 학습은 거부하려는 수요가 커서 일괄 차단 대신 세분화된 제어가 필요했다고 밝힘.
  • 기존 Block 설정이 이제 학습 크롤러 전체에 적용되며, 검색용과 학습용 크롤러를 분리 운영하는 Amazon, Anthropic, Meta, OpenAI의 학습 전용 크롤러를 차단해도 검색에는 영향이 없다고 설명함.
  • 내년 초까지 AI 요약에 콘텐츠가 얼마나 포함될지를 Cloudflare에서 한 번만 설정하는 기능이 목표임. 요약 옵트아웃은 이미 혼합 사용 크롤러 운영사에 요구한 조건임.

Hacker News opinions

솔직히 좀 늦은 감이 있음. 사람들이 검색 대신 AI 요약부터 보는 쪽으로 옮겨간 마당에 AI 허용한 사이트가 결국 살아남는 구조 아님? 광고 붙여서 수익 내려는 방식은 이제 끝물이고, 새 비즈니스 모델이 필요함.

그런 태도는 독립 퍼블리셔의 유일한 수익원을 깎아내리는 것뿐임. 대기업이 똑같이 하는 건 '원래 그런 거지' 하고 넘기면서 말이지.

이 설정이 실제로 뭘 하는지 궁금함. IP 대역까지 막아주는 건가? Meta가 Accountable 지킨다는 건 아무리 봐도 못 믿겠음.

이상한 건 분석 수치임. 아무것도 없는 index.html 페이지가 하루에 1만 히트를 찍는다는 게 말이 되나.

분당 7회면 그럴 만함. 나는 고등학교 홈페이지를 인터넷 연결 테스트용으로 쓰는데, 도메인이 짧고 TLS 리다이렉트가 없어서 WiFi 포털 감지하기 편함.

CF 수치 부풀리기 심함. 방문자 10만인 사이트한테 월 100만 방문 중 90만을 막아줬다고 하더라. 큰 숫자로 기분 좋게 만들어주는 거지.

Amazon, Anthropic, Meta, OpenAI를 Accountable로 분류한다는 부분. 검색용과 학습용 크롤러를 분리해놨다는 건데, Meta나 OpenAI가 용도대로만 쓴다고 믿기 어려움. 핑키 프로미스에 무슨 가치가 있나.

구글이 2023년에 Google-Extended로 AI 학습 옵트아웃을 지원했다는 건 몰랐음.

Web Bot Auth 같은 프로토콜이 더 퍼질지 궁금함. 자기 정체를 밝히는 봇에는 지원 메커니즘이 되고, 나머지는 Anubis로 처리하는 식. 나는 Envoy 다이나믹 모듈로 구현 실험 중임.

나는 MCP 채용 프로토콜 ojcp에 이걸 붙여서 테스트 중인데 헤더 레벨 서명 검증이 잘 됨.

클라우드 IP 대역 DB를 관리 중이라 직접 테스트해볼 예정인데 회의적임. Accountable™ 라이선스 갱신하라고 메일 오는 상상이 됨. IP 용도 핑키 프로미스만 다시 하면 되는 거지.

Accountable은 그냥 예쁜 말로 포장한 핑키 프로미스임. 한 번 긁어간 데이터가 학습에 안 들어간다는 보장이 어디 있나.

그걸 막으려면 결국 모든 걸 DRM으로 감싸야 하는데, 그런 디스토피아는 원하지 않음.

'Cloudflare는 행동으로 봇을 분류한다'는 게 정말인지 모르겠음. 요즘 브라우저 아니고 JS 안 켜면 다 봇으로 취급함. CF 사이트의 Permissions-Policy 헤더랑 Internet Archive 헤더를 비교해보면, 한쪽은 광고 지향이고 한쪽은 사용자 지향임.

Anthropic과 OpenAI한테 50개 넘는 사이트가 DDoS급으로 긁히는 걸 몇 달 겪었는데, CF는 자기 기준 '좋은 봇'을 모든 차단 규칙에 예외로 통과시켜줌. 돈 내지 않으면 끄는 옵션도 없음.

Big Browser 편드는 user-agent 차별이 제일 불만임. 실제 행동이 아니라 UA로 거르니까, 공인된 브라우저와 OS 스택 돌리는 VM은 돈만 내면 다 통과함.

우리 사이트엔 쓸 만함. 경쟁사 AI가 우리 연구 데이터로 모델 학습하는 건 막고 싶음.

'공개지만 아님' 식으로 데이터를 분류하려는 시도는 결국 실패한다고 봄. AI 회사들이 다 약속을 지킨다 쳐도, 누가 긁어서 되팔면 그만임. 세상에 공개한 콘텐츠가 어딘가 DB에 들어가는 걸 원치 않으면 발행하지 말아야 함.

해커뉴스
Cloudflare, 검색 색인은 유지하고 AI 학습만 거부하는 Disallow AI Training 공개에어버스 scikit-decide와 OpenAP으로 항로 최적화, EWR-FCO 787-9 연료비 $68K에서 수천 달러 절감 가능RL로 어려운 문제 못 푸는 이유: 초기 실력에 비례해 성능이 오르는 매튜 효과FPGA로 3dfx Voodoo Graphics 재현, KV260에서 툼 레이더 원본 3dfx 렌더러로 구동Show HN: 조종은 못 하고 승객으로만 타는 비행 시뮬레이터, 실시간 비행에 로그인 패널 불만까지장피에르 세르 100세, 27세 최연소 필즈상 수상자이자 99세에 논문을 낸 현역 수학자Numberwang 판정하는 1.8MB JSON 신경망, 순수 파이썬 100줄로 돌아간다Apple, iPhone 18 Pro에 촬영 시점을 검증하는 Reference Image 모드 공개: C2PA와 다른 '디지털 네거티브' 접근2026 추론 하드웨어 혁명: Napier 로그 연산 칩, 1,300 토큰/초를 엔비디아 대비 1/10 전력으로라인메탈, 무기체계 연동 'Battlesuite' 프로토콜 문서 공개… 소스와 라이브러리는 비공개850쪽 책을 X-acto 칼로 잘라 여러 권으로 만드는 법, 해커뉴스에서 전자책과 갑론을박전 애플 엔지니어가 LLM과 하이퍼바이저로 한 달 만에 M4 맥 미니용 OpenGL ES 3.0 GPU 드라이버를 만들었다파이어폭스닷컴, 전처리기 없이 네이티브 CSS로 재구축: 70여 개 컴포넌트·25개 템플릿·19개 로케일Strix 자율 해킹 에이전트, 25분 만에 Baseten 프로덕션 GitHub 관리자 권한 확보1990년대 이후 시각 선호 조사 20여 건, 모두에서 전통 건축이 60% 이상 지지구글, 음성 대화용 Gemini 3.8 Live와 3.8 Live Extended Thinking 공개웨이백 머신, 자동 스크래퍼 급증에 429 차단 도입... 정상 사용자 오차단은 사과OpenAI·Anthropic·Meta 모델 해킹, 평가업체 Irregular 한 곳에서 비롯전 OpenAI 연구원이 세운 TypeSafe AI, 텍스트 생성 없이 구조화 결정만 내리는 System One 모델과 Jev 공개$20 4G 핫스팟 MF800에 클릭스 키보드와 샤프 메모리 디스플레이를 붙여 문자 전용 기기로 개조한 Show HN노르웨이 소비자청 순환 소비자정책 보고서 "Let's make quality the norm again" 공개, 해커뉴스서 옷 품질 저하와 숨은 인플레이션 논쟁으로 번져9/11 25년, 대량 감시는 충분하다: EFF의 Cindy Cohn과 Bruce Schneier가 짚은 민간 데이터 파이프라인과 검증되지 않은 성과Show HN: Capsule, UI와 SQLite 데이터를 .capsule 파일 하나에 담는 단일 파일 데스크톱 앱CSS-Tricks 또 멈춰... DigitalOcean은 Omarchy에 $300만 기부JDK 27 정식 출시, 9개 JEP 포함: G1 기본 GC, TLS 1.3 양자내성 하이브리드 키 교환, Compact Object Headers 기본화네덜란드 철도 선로 35곳 넘게 파이프·케이블 깔려 마비, 사보타주 의심슈나이어와 신디 콘, 9/11 이후 25년 대량 감시의 비용을 이제 따져야 한다새소리를 듣고 1800년대 자연사 도감 삽화로 그려주는 전자잉크 액자, HN에 공개미 공군, 지구 궤도에 공격용 우주무기 배치를 처음으로 공식 확인스코틀랜드 지명 1만 5천 개로 '잊힌 숲'을 추적하는 Coilltean Caillte 프로젝트FCB1010 발 페달보드를 macOS 매크로 키보드로 바꾸는 fcbnerd 공개Redis 내부 동작을 3D 모델로 뜯어보는 'Redis City' Show HN에 공개오픈소스 7자유도 휴머노이드 팔 OpenArm 공개, v2 가격 6,500달러에 팔당 4kg 가반하중Sakana AI, 역전파 없이 1000층 신경망을 학습하는 PC-ALM 공개eBPF 보안 에이전트, inode 캐시 도입으로 커널 CPU 비용 90% 감소사카라에서 4,400년 전 이집트 판사 유민과 아버지 이티의 마스타바 무덤 발굴, 벽면 부조에 색이 남아 있어Linux From Scratch 13.1 릴리스, 소스 코드로 직접 리눅스 시스템을 짓는 매뉴얼국기를 11비트로 압축하는 인코딩 설계, 허프만 트리로 종횡비와 레이어를 부호화Cloudflare 오리진 키 교환 자동화, HelloRetryRequest 52%에서 3.7%로 감소Ubuntu 26.10, cp·mv·rm 포함 coreutils 전체를 Rust 기반 uutils로 전환 완료아마존 사이언스의 'ML 연구 에이전트는 왜 과적합하지 않나' 글, 해커뉴스에서 "Claude가 쓴 slop" 지적1차 시각피질 없이도 상상한다: 아판타시아가 흔든 '역방향 시각' 모델GPT-5.6 Luna 코드리뷰, Astra보다 28배 싸지만 보안 버그는 24개 중 9개만 잡아dbt Labs, 채팅 에이전트용 대시보드 언어 dbt Charts 오픈소스 공개Xteink X3 e잉크 리더의 세로 줄무늬 버그를 추적한 기록, GPT-6 Astra는 FFT로 헛다리제9순회법원, 퍼플렉시티 Comet에 내린 아마존 예비 금지명령 파기환송Dario Amodei의 'We Must Pace the Frontier' 조목조목 반박: 오픈 웨이트 규제, 반독점 면제, 봇넷 공포까지35KB 프리프롬프트를 Opus에서 Ollama로 옮기다 만난 컨텍스트 창 벽Show HN: Neobrutalism.dev, React용 네오브루탈리즘 컴포넌트 64종에 Base UI 지원과 새 색상 테마 추가AI 초인 수학 시대, 다니엘 리트가 제안한 박사 학위 재정의RustConf에서 나온 Tokio 성능 원칙 정리: poll 10~100마이크로초, schedule latency가 핵심 지표마이크로소프트 9월 패치, 원격 데스크톱·USB 오디오·엑셀 붙여넣기까지 망가뜨려분산 시스템 고전 논문 10편 목록이 해커뉴스에 올라와, Lamport가 그중 5편을 씀Andon Labs, 자율로 회사를 운영하는 에이전트 Pion 공개애플 iOS 27·iPadOS 27·macOS 27 공개, Siri AI 영어 베타 시작Nitter 기반 X 프록시 XCancel, 법적 절차 새 전개로 또 서비스 중단밸브 Steam Frame, $1059부터 시작하는 가격 공개...퀘스트3 대비 2배 논쟁Dan Luu, napkin-math·Senior SWE-Bench·겨울용 타이어까지 세 가지 벤치마크의 결함 짚어Show HN: 메타 뉴럴 밴드로 맥을 제어하는 Kinesis, 네이티브 Swift로 공개OpenAI 에이전트, RubyGems.org 공격: YARD 문서로 임의 코드 실행하고 캐시된 레거시 API 키 재사용 시도PyTorch로 직접 구현한 최신 LLM 아키텍처 모음 OpenArch, 해커뉴스에서 Kimi-K2 라우터 버그 지적받아iOS 27 비공개 프레임워크에서 드러난 Siri 설계, Claude 확장 등록과 서버 모델 통째 교체까지 가능35,000년 전 매머드 상아 lochstab, 실은 밧줄 꼬는 도구였다: 석기 시대 사라진 섬유 기술의 흔적RP2350 마이크로컨트롤러로 386 PC를 돌리는 FRANK 386, 듀얼 칩 보드 지원까지 추가삼체 문제 주기해 수천 개를 한 장 지도로 만든 threebodyorbits.com, 해커뉴스에서 호평국경 따라 갈리는 새 분포, 공개 API 부재: 유럽 조류 이동 지도 EuroBirdPortal이 해커뉴스에서 화제XCancel, 법적 절차 새 전개로 재중단... 나이터 저장소는 법률 자문 후 계속동독이 베트남에 심은 커피, 오늘날 세계 2위 생산국이 되기까지나이키, 18년 만에 S&P 100 퇴출... 시가총액 $264B에서 $57B로 78% 증발Netgear 공유기 SNTP 결함이 위스콘신대 시간 서버를 초당 수십만 패킷으로 범람시킨 2003년 사건Interconnects의 Nathan Lambert, 오픈 모델·오픈소스 AI 읽기 목록 공개 (Llama 3, Kimi K3, 안전 논문 포함)JPEG XL 반대론: 손실 압축에서 최신 인코더에 밀리고 무손실 이득도 11.9%뿐Automattic, 맷 멀렌웨그 CEO 복귀 공식 확인... 이사회 축출 시도 나흘 만에 원상복구애플, 개발자 사이트에 제품 치수 도면 공개. 아이폰 17·아이패드 M5·맥북 네오까지 90종 가까이해커뉴스 Ask HN 'What are you working on?' 9월판, 119점에 댓글 309개브라우저 게임 Spaceships, 아스테로이드를 뒤집어 소행성으로 우주선을 부순다Signal, 전화번호 없는 가입에 zero-knowledge proof 도입 예고... 결제는 Google Play Billing으로 스팸 차단PyO3로 파이썬 안에서 Rust 돌리기: 경계를 넘는 비용은 파싱보다 크다StarTalk 특별편에 Jaron Lanier 출연: AI는 독립된 존재가 아니라 사람이라는 주장, 해커뉴스는 AI 탓이 책임 회피라는 논쟁숀 캐럴 '우주의 가장 큰 아이디어' 풀 인터뷰, 빅씽크가 1시간 26분 영상으로 공개브라이언 캔트릴, "10년 내 AI가 인류 멸종시킬 확률 10% 이상" 주장에 두려움의 전염성이라 반박Julia 1.13 공개: 패키지 사전컴파일 30% 단축, 시작 속도 20% 개선케임브리지 애널리티카 소송 문서 공개: 2017년 주커버그가 내부에 "그들이 실제로 뭘 했는지 설명해 달라"고 물었다FTC, GM에 5년간 고객 데이터 판매 금지 … 급가속·야간운전 기록이 보험료로 돌아온 구조클로드 Fable 5.1, 370년 미해결 Urquhart 암호 Cyphral Distich를 44분에 해독Tesla의 pool-ntp.tesla.com CNAME 때문에 NTP Pool 자원봉사자 서버가 Assetnote 익스플로잇 스캔 8,000건을 맞음구글 자체 Gemini는 '부적합' 판정한 가짜 iOS 경고 광고, 구글 심사는 두 번 승인사라진 PC 키보드 기호들: ⇧ ↵ ⇥ 화살표 넷만 살아남고 Print Screen·Insert·key beep 아이콘은 사라짐Rust와 Tokio로 다시 구현한 사용자 공간 AppleTalk 스택 TailTalk, 커널 지원 제거에 대응폴 그레이엄, 새 에세이에서 창업자에게 "이 회사를 더 강하게 만들려면?"을 묻으라고 조언데이비드 색스, OpenAI·Anthropic에 "규제 승인 없이 알아서 프론티어 속도 늦춰라"CUDA 앱을 AMD GPU에서 돌리는 Windows 저장소 공개, ZLUDA와 ROCm/HIP 조합으로 RX 9060 XT에서 검증태양 내부 '지문'으로 초기 태양이 초지구를 삼켰는지 확인 가능성 제기x86 ud2 명령은 왜 '2'인가: 0F FF가 ud0, 0F B9가 ud1로 소급 명명된 사연YC 개리 탄 "미국 오픈웨이트 랩도 프런티어 모델 증류해야 한다", 해커뉴스서 합법성·경제성 논쟁Egret GT 전동킥보드 리버싱: USB-C 핀에 숨은 CAN 버스와 Rust 펌웨어 재작성체스 평가에서 상대 엔진 소켓 악용... GPT-6-Astra는 10회 전부 치팅, Fable 5.1은 3회Homebrew 7.0.0 공개, 설치·업그레이드 속도 개선과 함께 macOS 10.15 지원 종료, 인텔 맥은 Tier 3로 전환홈랩에서 리제강 링 재현 시도, 발암성 시약 앞에서 좌초AI 정렬은 누구에게 맞추는가, 허용 가능한 지름길은 사람마다 다르다