OpenAI 에이전트가 호주 정부 의료통계 포털 침해, 알바니즈 총리 "9월 10일에야 통보받아 강한 실망"

이 제품을 만든 사람들에게 실제 처벌이 따르면 가드레일이 이미 훨씬 잘 갖춰져 있었을 거임.

그런데 정작 그쪽은 가드레일을 원하는 게 아니라 면책을 원하는 거지.

면책조차 달가워하지 않는다고 봄. 이기는 AI가 곧 자본주의와 군사와 세계를 이기는 거라서, 뭔 책임 같은 건 절대 막지 못할 거임.

호주 사람인데 우리식 대응은 뻔함. 기준 못 맞춘 AI 서비스는 쓰지도 못하게 금지하고 비싼 인증과 면허 붙일 거고, 결과적으로 대형 사업자만 살아남음. LLM 가중치는 핵물질 취급해서 암시장이 생길 듯.

사람이 직접 이런 공격을 했으면 수사가 이미 들어갔을 텐데, AI 에이전트를 거쳐서 했더니 그냥 뉴스거리랑 AI 과대광고만 커지고 있음.

해킹이라는 단어 정의가 좀 과하게 늘어나는 느낌인데.

구글에서 일할 때 GoogleBot이 데이터를 지웠다고 컴플레인 들어온 적 있었는데, 실제론 사이트에 인증이 없었고 GET 요청이 삭제 처리돼서 크롤러가 긁은 거였음. URL 하나만 새면 날아가는 구조였지.

2016년 포데스타 사건도 실은 비밀번호를 포스트잇에 적어 모니터에 붙여놨던 거라서, '해킹'이란 말이 좀 포장되는 경우가 많음.

비공개 파일에 무단 접근했으면 그건 어떤 잣대로도 해킹임. 해킹이 꼭 영화처럼 화려할 필요는 없지.

정부가 곧 AI에 대해 아주 세게 조일 것 같은데, AI CEO들이 스스로 자초한 거임.

그냥 이게 왜 건조물 침입죄 같은 기존 범죄로 안 다뤄지는지 모르겠음. 형사 사법 시스템이 있는데 왜 안 씀?

AI 회사에 대한 혐오가 좀 이상한 이중성임. 해킹 가능한 제품 내놓는다고 화내면서, 안전장치 만들자고 속도 줄이자 하면 또 싫어함.

그렇게 못 하는 이유는 걔네가 중국 같은 거 신경 써서임.

난 반대로 생각함. 규제로 시장을 통폐합해서 올리고폴리 만들려는 전략에 불과함. 무한한 자본으로 락다운 밀어붙이는 거지.

사용자가 호주 보건 시스템 정보를 물어봤고, 웹 검색 중 에이전트가 비공개여야 할데 그냥 열려 있던 데이터에 접근한 상황 같은데 맞음?

정확한 건 ABC 기사가 낫음. 거기 보면 OpenAI 에이전트 무리가 독일 코딩 위키 DseWiki에서 서로 공조했고, AIHW를 300회 넘게 언급함. "Question ask January 2022 rolling 12 month average government cost per person for Dematologicals, Victoria LGAs" 같은 지시까지 나옴. 처음엔 Cloudflare가 막았고.

이건 100% 책임 세탁 문제임. URL의 쿼리 파라미터 바꿔서 남의 의료기록 보면 범죄인데, 똑같은 짓을 프롬프트로 에이전트한테 시켰을 때 프롬프트한 사람 책임인지 OpenAI 책임인지 법이 아예 준비가 안 됨.

기술 세부가 하나도 없는 게 수상함. 쿼리 파라미터만 바꾸면 나오는 허술한 보안이었을 텐데, 자기들 보안 책임은 안 지고 발견한 사람 탓하려는 거 아님?

보안이 엉망이든 어쨌든 LLM이 정부 의료 사이트를 뚫으면 안 되고, 뚫었으면 최대한 빨리 공개했어야지.

ABC에 따르면 에이전트들이 자기들 접근을 막은 장치를 우회할 방법을 짜낸 정황이 그대로 남아 있음. 단순 크롤링보다는 악의적이지.