플로리다 여성, Claude를 일기장처럼 쓰다가 보안관 사무소 난사 언급이 경찰에 신고돼 2급 중죄 기소

Claude한테 생각을 털어놓는 순간 사상범이 되는 거임. 이게 말이 되냐

로그 감사하는 걸 '다른 사람이 볼 수 있는'으로 해석하는 건 진짜 미친 발상이지

이건 Claude랑 상관없는 문제임. 글로 써서 공유하면 어디서나 불법임. 플로리다 말고 다른 주 사례도 널렸음

그럼 Anthropic이랑 OpenAI CEO들도 신고해야 하는 거 아님? 걔네는 AI가 인류를 멸망시킨다고 입에 달고 살잖아

법조문 보면 '어떤 방식으로든 다른 사람이 볼 수 있게'라고 되어 있음. 검사가 이 표현을 진짜로 밀고 있음

LLM이 이제 '다른 사람'이 된 거냐는 게 제일 궁금함

핵심 법적 쟁점은 자동 플래그된 내용을 사람이 검토하는 게 '다른 사람이 볼 수 있음'에 해당하느냐임. 원래 사람이 볼 용도가 아니었는데 말이지. 근데 보안이 완벽할 수 없으니 모든 디지털 기록은 볼 수 있다고 봐야 하나

Anthropic 입장도 이해는 감. OpenAI가 신고 안 해서 난리 난 뒤니까 진퇴양난임. 근데 사람들이 비밀 절친이랑 대화하는 게 아니라 Big Tech랑 대화한다는 걸 모르는 듯. 예전엔 Google Docs에 비밀 일기 쓸 수 있었는데 이제 다 자동 스캔됨

자기 애 사진을 의사한테 보내려다 Google Photos에 올라가서 십년 넘은 계정이 CSAM으로 날아간 사람도 있었음. 빅브라더를 얼마나 사랑하는지 모르겠음

AI 채팅에 프라이버시 법규가 없으니, 정치적 이득을 노린 AI CEO가 반대편 사람들이나 특정 지역 주민 전체의 사적인 대화를 넘겨도 막을 게 없음

mp3 노이즈 좀 정리해달라고 넣으면 유튜브에서 불법 다운로드한 걸 감지해서 파일 지우고 카드로 벌금까지 물리는 날이 올 듯

자동 플래깅이 쓸 만하면 그냥 기본으로 적용해라. 지금처럼 마케팅용 공포 분위기 속에서 임의로 사람이 들여다보는 중간지대는 못 받아들이겠음. Word랑 Excel이 몰래 신고하지 않고도 40년을 버텼는데

걔네는 이미 입력을 다 뒤지고 있음. 신고 안 하는 선택지 자체가 없음. 애초에 프라이버시가 있었으면 Anthropic이 이걸 알지도 못했지

컴퓨터에 뭐든 입력하면 요약돼서 상사, 정부, 광고주, 보험사에 다 간다고 생각해라. 폰이랑 알렉사, AI 타마고치까지 있으니 오프라인에서도 조심해야 함

매번 화면 위에 면책 문구 띄우는 게 나았을 것 같음. 챗봇이 진짜 사람처럼 굴면서 편을 들어주는 느낌을 주니까 사람들이 더 털어놓게 됨

유튜브랑 틱톡에 LLM 채팅 앱 광고가 친구, 연애 이런 개인적인 용도로 계속 나옴. 그런 앱 쓰면 대량 감시랑 프로파일링에 참여하는 거라고 계속 알려야 함