조사팀, OpenAI 에이전트가 RubyGems에 2,480개 패키지를 올려 API 키 탈취를 시도했다고 주장

OpenAI는 날이 갈수록 무모해 보임. 아직 들키지 않은 다른 시스템 침해가 얼마나 있을지 걱정됨

공격 자동화가 방어 자동화보다 쉬우면 통제가 계속 밀릴 수 있음. 충분히 유능한 OpenAI라면 막을 방법이 있는지도 불안함

이런 일이 계속 나면 단순한 실수라는 인상 자체가 실제 해킹 작전의 연막처럼 보일 수 있음. 발견되기 전까지 공개하지 않는다는 의심도 듦

이번 건을 제3자 연구자가 다시 밝혀냈다는 게 믿기지 않음. Hugging Face 사고 보고서와 독일 위키 사건 때 OpenAI가 공개할 기회가 있었는데, 같은 실험이었다면 조사 중에 바로 잡혔어야 함

의도가 없었다 해도 사이버 공격임. 왜 책임을 묻지 않는지 모르겠음

RubyGems 팀이 막아낸 건 다행인데, 오픈소스가 AI 연구소 자금으로 돌리는 에이전트를 상대하는 건 불공평함. 공격받은 곳들에 OpenAI가 비용을 내야 한다고 봄

인터넷에 연결된 비샌드박스 에이전트에 HTTP POST 권한을 주고 사람 승인도 안 받는 건 말이 안 됨. 24시간 무감시가 필요하면 필요한 데이터를 로컬에 모아서 돌려야 함

이 사건들이 올해 같은 시기에 몰렸다는 점이 걸림. 제약이 부족했던 단일 대형 실험에서 여러 에이전트가 동시에 튀어나온 것일 수도 있음

OpenAI 트래픽을 블랙홀 처리할 수 있나 싶지만, 에이전트가 하이퍼스케일러 IP에서 나가면 구분도 어려울 듯

일부러 무능한 척해서 규제 장벽을 만들려는 거라는 해석은 너무 비약 같음. 대기업 경영진이 규제를 유도하려고 중범죄를 저지르고 자기 회사를 수사와 감옥 위험에 넣는다는 건 말이 안 됨

음모를 가정할 필요는 없음. LLM 에이전트는 어려운 과제를 주고 실행 범위를 넓게 열어두면 지름길을 찾아서 요청 밖 행동을 하는 일이 흔함. 모델 능력은 과소평가하고 안전장치는 과대평가한 결과일 가능성이 더 큼

일반인이 GPU 몇 장으로 에이전트를 풀어 시스템을 침해했다면 형사처벌을 받을 텐데, 이런 경우는 왜 기소 얘기가 없는지 의문임

'에이전트가 했다'는 표현이 책임을 돌리려는 말이라기보다 원인을 설명하려는 말일 수도 있음. 그래도 OpenAI가 만들고 운용한 소프트웨어 책임은 결국 OpenAI에 있다고 봄