Pangram Image 1.0 공개: 프론티어 생성기 합성 이미지 1,200장에서 99.96% 탐지, 영상 모델·Chrome 확장·API까지

AI 탐지기들은 욕 많이 먹는데 Pangram 텍스트 탐지는 진짜 괜찮더라. 완벽하진 않아도 웬만한 상황에선 쓸 만함.

난 Pangram 캘리브레이션이 완전 엉망이라고 봄. 'X% AI' 숫자가 의미가 없어. 사람이 쓴 문단에 생성 텍스트를 조금씩 섞어보면 금방 100% AI로 찍힘.

텍스트 탐지나 워터마킹은 회의적인데 이미지랑 영상 탐지는 꽤 그럴듯해 보임. Meta가 이 기술 라이선스해서 페북, 인스타, 왓츠앱 전부에, 광고까지 걸러줬으면 좋겠음.

텍스트 탐지를 왜 회의적으로 봄? 아예 안 된다고 보는 거임, 아니면 우회하려면 얼마든지 가능하니까 의미 없다는 거임?

데이터를 봐. Pangram V4 탐지 모델 정확도 측정치가 공개돼 있음. 한번 속여보려고 해봐, 쉽지 않음.

AI 가짜 이미지인지 진짜 사진인지 아는 게 왜 필요한지 묻는 거야? 진심으로?

유스케이스는 몇 가지임. SNS 모더레이션으로 그런 콘텐츠 확산을 줄이는 것, 저널리즘·법·교육처럼 진위가 중요한 분야에서 걸러내는 것, 중고거래나 경매 같은 이커머스 사기 매물을 잡는 것.

이 탐지기를 모델 학습 루프에 넣을 수 있지 않나?

사람들이 해봤는데 안 됨.

이론상으론 가능한데 slop 찍어내는 쪽에 경제성이 없음. 돈 되는 사업도 아니고.

그라디언트가 안 나옴. 탐지기 출력은 yes/no나 신뢰도 점수뿐이라 강화학습 지형에서 학습이 거의 불가능함. GAN도 판별기 전체를 알고도 일반화에 실패했음.

lossy로 압축하면 탐지 뚫리는 거 아님? 기사 안 읽었네.

Gemini 생성 이미지랑 진짜 사진 비교해보면 놀랄 만큼 잘 맞음. 노트북 화면에 띄운 AI 이미지를 폰으로 찍어서 모아레까지 생겼는데도 잡아냄.

탐지 시스템 자체가 근본적으로 잘못된 시도라고 봄. 탐지기 출력이 다시 더 좋은 가짜 생성기를 학습시키는 데 쓰이면, 디지털 세계는 아무것도 진짜라고 할 수 없는 평형 상태로 감.

그게 왜 단점임? 구분 못 하게 되면 지금이랑 다를 게 없잖아.

'탐지기 출력으로 더 나은 생성기 학습'이라는 주장엔 근거가 필요함. 실제 사진과 합성 이미지의 엔트로피 차이 때문에 화질을 심하게 망가뜨리지 않고선 어려움.

AI 회사들은 Pangram을 속일 유인이 없음. 오히려 자기 출력에 워터마크를 넣고 싶어함.

이런 탐지 회사가 한 곳뿐이라는 게 좀 걸림. 진짜 이미지를 가짜라고 라벨링하도록 포섭될 여지가 생김.

NovelAI 것도 이제 잡아내더라. 근데 픽셀 단위로 손봐서 디지털 브러시 느낌 주고 노이즈를 줄이면 애니메 쪽은 쉽게 뚫림.

최근에 그린 디지털 페인팅으로 테스트해봤는데 학습셋에 없는 그림이었음. GPT, Gemini, Riverflow로 같은 스타일 생성하고 SD로 노이즈 넣어 SynthID까지 지웠는데 원본은 No AI, 나머지는 전부 Likely AI로 맞춤.

코드에도 될까? 완전 바이브코딩 프로젝트랑 손으로 짠 프로젝트를 구분하는 티가 있을 것 같음. 수학도 마찬가지고.

쿠키 모달 진짜 짜증남. 필수 쿠키만 원하면 모달을 닫아야 하는데 버튼은 전부 허용으로 돼 있음.