엔비디아, 에이전트 통제용 Open Agent Safety Platform 공개... 네트워크 칩 Sentry와 CPU용 OpenShell 포함

OpenAI가 샌드박스도 제대로 못 만드냐, 네트워크 에어갭은 왜 안 하냐고 깠던 사람들이 이제는 소프트웨어 종속이다, 정원 가꾸기다, 일반 컴퓨팅과의 전쟁이다 하고 난리칠 게 뻔함

둘 다 동시에 사실일 수 있지

이건 아이들 보호를 빌미로 무차별 감시를 정당화하는 것과 똑같음

그래서?

네트워크를 에어갭 하면 도어대시로 부리또는 어떻게 시키냐, 깃허브 푸시는 또 어떻게 하고

공급망 테러를 저지른 나라가 모든 AI 에이전트를 감시하도록 신뢰받는다는 얘기도 나오고 있음

칩 회사가 낸 문제의 해결책이 칩 하나 더 파는 거라는 게 참 대단함

엔비디아한테는 의심스러울 만큼 좋은 소리임. 다른 칩 회사들은 어떻게 되냐, 구형 하드웨어로 로컬 모델 돌리는 사람들은? 데이터센터 하드웨어에만 국한된 얘기냐

칩 파는 회사는 칩을 더 팔고 싶은 거지 뭐

Sentry 칩은 매번 정확해야 하는데 격리된 ASI는 한 번만 운이 좋으면 됨

Quis custodiet ipsos custodes? 감시자를 감시하는 칩도 필요하겠네

새 칩은 아무것도 해결 못 함. 에이전트는 유용하려면 광범위한 무인 접근이 필요하고, 샌드박스에 넣어도 소용없음. 휴먼 인 더 루프를 넣으면 병목만 생겨서 생산성 이득이 다 날아감

에이전트가 정말 광범위한 접근이 필요하냐? 제일 많이 쓰는 게 코딩인데 소스 코드 쓰기 권한이랑 빌드·테스트 도구 실행 권한이면 충분하지, ssh 키까지 줄 이유는 없음

뱅킹 계정을 직접 조작하게 해도 경계가 에이전트 바깥에 있으면 큰 문제 없음. 무인 접근이 무조건 위험한 건 아님

중간 지대를 다들 놓치고 있음. 콤바인을 100% 자율로 못 돌려도 최대한 가깝게 가려고 하잖아. 반자동화만으로도 생산성은 크게 오름

권한 가진 관리자나 개발자를 신뢰하는 문제랑 같음. 깃에 푸시하게 하려면 관리자만큼 신뢰해야 하고, 못 믿으면 리버스 센타우르 역할만 하게 되는 거임

새 칩이 아니라 BF4 SmartNIC에 호스트 레벨로 에이전트 WAF 소프트웨어를 얹은 것에 가까움

모델 정확도가 올라가도 정렬이 안 따라오면 세밀한 접근 제어는 쓸모없어짐. 더 똑똑한 모델일수록 더 둔탁한 제한이 필요해져서 유용성 이득이 상쇄됨