Microsoft Paint와 Photos, 로컬 AI 생성 이미지 픽셀에 서버 발급 GUID 워터마크 삽입

AI 보정 사진에도 보이는 워터마크는 끌 수 있지만, 안 보이는 GUID 워터마크는 사용자에게 알리지 않고 들어가는 듯함. 로컬 모델을 써도 프롬프트와 GUID가 Microsoft 서버를 거치고, 그 GUID로 프롬프트와 기기나 계정을 연결할 수 있다면 프린터 추적 점보다 더 큰 프라이버시 문제임.

차라리 Linux를 쓰는 편이 낫다고 봄. 요즘 컴퓨터는 뭐든 추적하려 하고, 나도 이런 AI 프라이버시 문제 피하려고 MacBook M1을 Sonoma로 내렸음.

로컬 LLM이나 로컬 생성 결과에 워터마크를 어떻게 넣는다는 건지 궁금함.

워터마크가 널리 채택되면 AI 생성물을 쉽게 표시할 수 있지 않을까 했는데, 허위정보용이나 적대적 생성 모델까지 워터마크를 넣을 리는 없음.

모든 카메라가 사진에 디지털 서명을 하면 진짜 사진임을 증명하기 좋겠다고 생각함.

그 서명 알고리즘을 PC에서 임의 이미지에 돌리는 건 무엇이 막음?

C2PA 같은 서명이 진짜성의 신호가 되면, 누군가는 카메라 하나를 뚫어 개인 키를 빼내 임의 출처 이미지에 서명하려 할 것임. 결국 DRM처럼 키 추출과 기기 차단의 쫓고 쫓기는 게임이 될 듯.

서명은 그 키를 가진 누군가가 만들었다는 뜻일 뿐임. 제조사, 공급망, 키를 덤프한 사람도 가능하고, 위조된 내 카메라 서명이 붙은 증거가 법정에 나오면 위험함.

며칠 전 스크린샷을 붙여 넣고 크기만 바꾸려는데 AI로 만들어진 이미지라 표시를 갱신한다는 배너가 떴음. 그래서 Paint.net을 설치했음.

AI 조작 여부 표시는 디지털 출처 관리에 필요하다고 봄. 다만 Microsoft는 도구가 이런 동작을 한다는 점을 명확히 알려야 함.

AI 워터마크와 사용자 추적은 다른 문제임. AI가 만들었다는 표시는 가능하지만, 누가 만들었는지까지 새게 할 이유는 없음.

문제의 본질은 AI가 아니라 이미지마다 고유 식별자를 몰래 넣는 점이라고 봄. 밈 하나가 문제가 되면 Microsoft에 소환장을 보내 계정 정보로 작성자를 찾을 수 있는 익명성 침해 수단이 될 수 있음.

그래도 글은 비AI 이미지까지 이 식별자가 들어간다고 말하지 않음. AI 도움을 받은 이미지에만 적용된다면 범위는 구분해야 함.

C2PA는 주요 카메라 제조사와 Google도 쓰는 출처 체계임. AI 생성 이미지와 영상을 구별할 방법은 필요하다고 생각함.

'AI가 만들었다'와 '이 사용자가 만들었다'는 큰 차이임. 전자는 늘려도 되지만, 후자는 프라이버시 문제고 글 자체는 사용자를 식별한다고 단정하지 않음.