Meta의 에이전트 AI Muse, 제로데이 취약점과 개인정보 무단 수집 논란으로 출시 직후 파장

Muse 광고 보면 Meta라는 이름이 아예 안 나옴. meta.com 들어가도 Facebook이나 Instagram 언급이 없더라. 브랜드가 독이 됐다는 걸 회사도 아는 거지.

이건 다 의도된 설계임. Meta랑 그 창업자는 보안 결함 있는 제품 내놓고 그걸로 정보 긁어가는 역사가 길잖아.

또? 이쯤 되면 실수가 아니라 의도로 봐야 함.

100% 의도임. Facebook 앱 때 뭘 했는지 다시 보면 답 나옴.

에이전트 매력은 알겠는데 은행 계좌나 이메일, 채팅 기록 접근 권한은 절대 못 주겠음. 돈이든 대화든 어떤 것도 못 믿겠더라.

나도 같은 입장임. context rot이랑 inference collapse 겪고 나서는 미션 크리티컬한 일은 어떤 LLM에도 안 맡김.

빠진 조각은 금전적 책임임. Meta나 OpenAI가 잘못된 일에 전액 보상한다고 보장하고 그 실적을 쌓으면 신뢰가 생기겠지.

AI 낙관론자들이 모르는 건 우리가 더 이상 90년대 낙관적 시기에 있지 않다는 점임. 편의성을 미끼로 사용자를 종속시키고 가치를 뽑아가는 게 지배적인 비즈니스 모델이 됐음.

도구 가치는 알지만 Meta 건은 절대 안 씀. 셀프 호스팅에 가드레일 갖춘 구조여야 하고, 로컬 모델도 실수로 송금하면 안 되니까.

이메일이나 은행 계좌 안 줘도 할 수 있는 일이 많음. Hermes한테 안드로이드 앱 클론해서 기능 추가하고 폰에 올려달라 하거나, 읽기 전용 Zabbix 토큰으로 모니터링 확인하고 제한된 Proxmox 토큰으로 문제 VM만 재부팅하게 하는 식임.

이런 걸 다 에이전트에 맡기는 사람들 보면 좀 무섭더라. 아내가 예약한 진료에 젊은 사람이 '잘 모르겠다'면서 ChatGPT로 진단하더라.

그런 편협한 시각은 아쉽다. 에이전트는 충분히 좋은 변화임. 어제 ChatGPT한테 옛 이메일 계정 뒤져보라 했더니 잊고 있던 추억을 찾아줬음. Sama가 내 이메일 가진 건 신경 안 씀.

미안하지만 이건 내가 원한 미래가 아님. 에이전트는 안 돌림. 차세대 프라이버시 침해를 '컴퓨터 안의 에이전트가 다 해준다'로 포장한 것뿐임.

나도 컴퓨터의 가장 중요한 기능은 예측 가능성이라고 봄. 도구가 필요하지 에이전트가 필요한 게 아님.

Muse는 사실상 OpenClaw에 Meta를 섞은 것임. 장단점은 비슷한데 Meta가 이걸 제대로 할 거라는 신뢰만 없음.

Zuckerberg가 '사람들이 그냥 제출했어. 왜인지는 몰라. 날 믿는대. 멍청한 놈들'이라고 했던 그 발언이 떠오름.

믿은 게 아님. 호르몬과 감정임. 오늘날 플랫폼은 딱 그 감정을 노려서 사용자를 붙잡아 둠.