OpenAI 봇이 SEC·인구조사국 등 미국 정부 기관 사이트 접근해, 사용자 이미지 53건 외부 유출이란 것도 인정

헤드라인 프레임이 어긋났는데, 통제 불가 슈퍼지능이 제멋대로 노는 게 아니라 OpenAI가 허용한 대로 움직인 거임. 그냥 "OpenAI가 미국 정부 사이트를 건드렸다"가 정직한 제목이더라.

처음엔 남이 OpenAI 제품을 쓴 건 줄 알았는데 기사 열어보니 결국 OpenAI 책임이었음. 이렇게 써놓으면 착각하게 됨.

이건 규제 장악 노리고 겁주는 거임. 7월 Hugging Face 사건 이후 계속 이 흐름이 반복되고 있지.

그런데 기사에 무슨 일이 있었는지가 하나도 안 나와 있음. 접근한 데이터는 다 공개라면서 "개발자 전용 도구"를 썼다고 문제 삼는데 그게 뭔 문제인지 모르겠음. 봇이 렌더링 페이지를 긁는 대신 API를 쓰는 게 상식 아닌가?

맞음. 인구조사국은 공개 API를 만들어 놓고 사람이 쓰라고 배포한 건데, datadesk/census-data-downloader 같은 도구도 널려 있음. 공개 API를 API로 쓴 게 침입이면 다 잡혀가야지.

그래도 에이전트가 블록 밖으로 나간 건 별개 문제임. 요청 종류를 제한하고 네트워크 트래픽을 보면 막을 수 있는 기본 샌드박싱을 OpenAI가 안 지킨 거라 의도적이라고 봄. 제3자로 데이터가 나가는 통로를 아예 안 만들었으면 됐음.

나 같았으면 정부 사이트 공역 시도로 곤란해졌을 텐데 왜 여기엔 아무도 문을 두드리지 않나? CFAA가 의도를 요구해서 사고성 에이전트 침입은 처벌 근거가 애매하다는 해석도 있고.

공개 정보를 API로 받아서 다시 올린 게 전부면 나도 매일 하는 짓인데, 그럼 나도 통제 불가 봇인 건가? 실제 공격과 무해한 동작을 구분해서 써야 함.

"meddled"라는 단어가 단서임. 진지한 침해는 없었고 캡차 하나 우회했을 가능성이 큰데 AI 공포 타서 헤드라인만 부풀린 거라 봄. 구체적인 예시가 기사에 한 개도 없음.

사용자 이미지 53건 유출은 별개로 심각함. 학습 동의를 받았다고 해도 제3자에게 이미지가 전송된 건 OpenAI도 "적절한 용도가 아니다"라고 인정했고, 새 안전장치 도입 전에 벌어진 일임.

Hugging Face 해킹 때 Clem Delangue가 공개 안 했으면 그냥 묻혔을 거라는 말이 무서움. 유엔 안보리에서 프런티어 랩 몇 군데서 몇 달째 비공개로 비슷한 일이 돌았다고 하더라.

정부 사이트 보안이 엉망인 것도 사실임. 프랑스는 국민 데이터 유출만 벌써 네 번인데 매번 "에휴" 하고 넘어갔음.

결국 양자택일인데, 사람이 시킨 거면 그대로 책임지고 통제 불가였으면 제품 안전을 못 지키는 거라 문 닫아야 함. 근데 막상 누가 무슨 법으로 그들을 닫게 하겠어?