ChatGPT가 가짜 뉴요커 만화에 실제 만화가 서명을 넣는다, 브렌단 로퍼의 'BLOPER' 위조

저작권 세탁기가 또 돌아간 셈이지.

그건 저작권 문제가 아니라 상표권 문제임.

원래 의도가 어쨌든 이건 명백한 버그고 고쳐야 함. 근데 ChatGPT가 자기 만화에 자기 이름을 서명해야 하는 건가, 아예 서명을 빼야 하는 건가?

자기가 그리지 않은 걸 자기가 그렸다고 하면 안 됨. 펜이나 붓한테 크레딧을 주진 않잖아.

버그라기보다 뉴요커 만화 모서리에 나타날 확률이 가장 높은 픽셀 덩어리를 만든 것뿐임. 서명하려는 의도가 아니라 확률 문제임.

서명만 선 넘는 게 이상함. 이미지 나머지도 작가한테서 가져온 거면 서명도 똑같은 거 아님?

난 나노 바나나 프로랑 ChatGPT 둘 다로 만화 만들 때 가짜 서명이 나와서 매번 지우는 편집을 한 번 더 해야 함. 대부분 사용자는 그냥 안 지울 거라는 게 뻔함.

서명을 지우는 게 가능하다면 '작가 서명처럼 보이는 걸 찾아서 고쳐라' 패스를 자동으로 넣는 것도 어렵지 않을 텐데.

그냥 AI 만화 생성을 그만두면 됨. 서명만 가짜가 아니라 전체가 가짜잖아.

우리 회사 EM이 스프린트 데모 끝에 bloper 서명이 들어간 만화를 붙였는데 전혀 안 웃기고 좀 이상했음. 물어보니 ChatGPT였고 서명은 못 봤다고 하더라.

이건 'LLM은 추론한다'는 말도, '사람도 실수한다'는 말도 못 쓰게 만듦.

이미지 생성 모델이랑 LLM을 헷갈리고 있음. 이미지 생성 모델이 추론한다고 주장하는 사람은 없음.

LLM은 추론 잘함. 여기서 깨지는 건 'LLM이 하는 모든 게 추론의 결과'라는 주장뿐인데 그걸 지지하는 사람은 없음.

학습 데이터에 서명이 다 들어 있으니 서명이 따라 나오는 건 당연한 결과임.

안티 LLM 담론에서 제일 큰 비중을 차지하는 게 표절 문제인데, 이건 가장 풀기 쉬운 문제임. 과학/수학/코드랑 예술/영상 쪽을 분리했으면 좋겠음. 문제의 크기가 완전히 다름.

코드도 저작권 보호를 받는데 스크래퍼들이 거리낌 없이 씀. 수학이나 과학 논문도 마찬가지고.

윤리적으로 소싱한 데이터와 좋은 성능을 동시에 가져가긴 어려움. 지금 모델 성능이 사실상 훔친 데이터에 기대고 있음.