AI 워터마크의 실체는 추적 신호, 저자는 '스파이마크'라는 새 이름을 제안

워터마크가 원래 이런 감시 용도로 꽤 오래전부터 쓰여왔음. 돈 주고 다운로드한 디지털 파일에 붙던 거고, 영화 스크리너에도 들어갔음.

spymark가 그냥 invisible watermark보다 나은 이름인지 모르겠음. spymark는 듣기만 해도 부정적인 느낌인데 invisible watermark가 항상 나쁜 건 아님. 위조지폐 방지 같은 예도 있고, SynthID는 텍스트 품질도 안 떨어뜨려서 나는 순이익이라고 봄.

spymark는 널 추적하는 거임. 부정적임.

위조 방지든 뭐든 다 부정적이라고 봄. 은행권도 포함해서.

tracking watermark가 spymark보다 훨씬 명확한 이름 같음.

글에서 위조 방지용 워터마크는 명시적으로 스파이마크가 아니라고 못 박았음. 워터마크는 물건에 대한 정보를 알려주고, 스파이마크는 그걸 쓰거나 만든 사람에 대한 정보를 알려줌.

이미지가 화면으로 가는 길목에서 다 가로채질 거임. 광고랑 퍼널 전체가 스파이마크되면 광고 귀속이 훨씬 좋아짐. 저가 노트북과 폰 드라이버가 이런 걸 상시 스캔해서 어딘가로 전송하게 될 거고, 애플은 안 할 거라 봄. 다른 OEM들은 TV에서 이미 하듯이 망설이지 않을 듯.

애플을 그렇게 빼놓을 순 없음. 걔네도 직접 구현할 것 같음. 상시 청취 AI 워치랑 인텔리전스 기능에 얹어서.

SynthID가 클로즈드 소스고 검증 방식도 이상해서 직접 만들었음. 알고리즘이 투명해서 스테가노그래피가 불가능한 변조 저항 워터마킹 도구임. 일반인이 출처를 증명하는 방어용인데, 요즘 분위기라면 그렇게 안 볼 것 같아서 공개할지 고민임.

아무나 쓸 수 있으면 출처 증명이 어떻게 되냐. SynthID는 애플이 하드웨어와 OS를 쥐고 카메라가 찍은 순간과 서드파티 앱이 접근하는 순간 사이에 서명을 넣을 수 있으니까 키를 믿는 거임. 아무개가 'AI 안 썼음'이라고 서명해도, 그 아무개를 이미 믿는 게 아니면 못 믿음.

글에 steganography 얘기가 없는 게 이상함. 목적이 좀 다르긴 한데 steganomark라는 이름이 더 맞았을 듯.

사람들은 이상하게 카메라만 무서워함. 물론 타당한데 마이크가 훨씬 심각함. 더 단순하고 작고 훨씬 민감하고 값도 싸고, 마이크가 필요 없는 기기와 스피커에도 이미 다 들어 있음. 스피커는 소프트웨어로 마이크처럼 쓸 수도 있음.

단어 선택 예시는 신기한데 정말 안정적으로 동작하는지 궁금함. 8비트짜리 패턴은 글과 책에 널려 있을 테니 훨씬 많은 비트가 필요할 거고, 비트를 늘리면 문체가 이상해짐. winding과 curving을 서로 못 바꾸는 경우도 많음.

다들 AI냐 아니냐만 싸우는데, 나는 로컬 AI냐 중앙집중 AI냐가 더 중요하다고 봄. 하드웨어 가격이 집값처럼 오르기만 하면 어쩌나 하는 걱정이 있음.