Anthropic, EU AI Act 투명성 규정에 맞춰 Claude 텍스트에 보이지 않는 워터마크 삽입

워터마크를 추적하고 지우는 산업이 바로 생길 것 같음.

이미 생겼더라. LLM 워터마크 제거기로 검색해 보니 관련 저장소가 여러 개 나옴.

기사에서 인용한 히스테릭한 레딧 글 자체가 AI가 쓴 것처럼 보임. AI를 써서 걸릴까 화내는 글도 Claude에게 써달라고 했을 법함.

그 글은 AI 문구와 진부한 표현이 너무 많아서 읽기 힘들었음. 논리의 빈틈이 사람 같아서 단순 프롬프트 결과라기보다 AI에 너무 익숙해진 사람이 일부 섞어 쓴 글 같긴 함.

왜 Anthropic만 욕먹는지 모르겠음. Google은 적어도 2024년 말부터 했고, OpenAI도 약 9일 전부터 출처 신호를 넣고 있었음.

Google이나 OpenAI는 텍스트 워터마크를 하는 건 아닌 듯함. 사진, 영상, 오디오는 괜찮다면서 텍스트, 더 나아가 코드는 문제 삼는 게 쟁점임.

이게 뭘 바꾸는지 모르겠음. 어느 정도 긴 글이면 Claude가 쓴 글과 아닌 글을 거의 100% 구분할 자신 있음. 이미 문체 자체가 너무 쉽게 드러남.

설명대로면 도장을 찍는 게 아니라 단어 선택과 문장 구조에 보이지 않는 통계 패턴을 넣는다는 뜻인데, 그러면 읽기만 해도 AI 문체가 더 심해지는 건지 궁금함.

워터마크의 취지는 이해하지만, 언젠가 이 기능 때문에 시스템에 심각도 9급 취약점이 생길 가능성도 이론상 있다고 봄.