사용자 몰래 뇌파 5만 시간으로 AI 모델 학습한 Muse 헤드밴드, 규제는 사실상 없음
- 캐나다 Interaxon이 Muse 헤드밴드 사용자들의 뇌파(EEG) 약 5만 시간으로 뇌 기반 모델(brain foundation model)을 학습시켰고, 사용자에게는 이를 알리지 않았음
- Science가 지적하기 전까지 회사 개인정보처리방침에 AI 학습 활용 조항이 없었고, 지적 후에야 수정했으며 CMO Nadia Kumentas는 사용자에게 명시적으로 알려야 한다는 데 동의한다고 밝힘
- 사용자 Adnan Jinnah는 학습이 이미 끝난 뒤에 통보받았고, AI 시스템에 섞여 들어간 데이터는 삭제가 사실상 불가능함
- Science가 1년간 수십 개 소비자 신경기술 개인정보처리방침을 검토한 결과 전 세계에서 수천만 시간의 EEG가 이미 수집됐고, 여러 회사가 뇌 기반 모델을 두고 경쟁 중이며 규제는 거의 없음
- UNESCO와 OECD 등 다자 기구도 뇌 데이터 대량 축적을 프라이버시 위험으로 지적하고 있음
Hacker News 의견들
글 제목이 이상한데, 본문 제목은 'The scramble for your brain data'고 태그는 또 다른 제목이더라. 제출자가 바꾼 건지 사이트가 A/B 테스트 중인지 모르겠음.
Martinovic 등이 2012년에 낸 BCI 부채널 공격 논문이 이미 있었음. 14년 전인데 그 뒤로 얼마나 더 나갔을지 생각하면 소름이고, 진짜 목표는 늘 마인드 컨트롤이었음.
잠 안 온다고 그러지 말고 DHL이나 배송 일 좀 해봐. 창고에서 일하고 자전거로 출퇴근하면 비싼 헬스장 없이도 잠은 저절로 옴.
매일 현대 사회에서 접속 끊고 싶은 마음이 커지는데 가족 있으면 불가능하더라.
예전엔 얼리어답터가 긱이었는데 지금은 반대임. 긱들은 숲으로 도망가려 하고 일반인들이 더 침습적인 기기를 먼저 삼키고 있음.
몇 년 전 산 Neurosity Crown 꺼내봤는데 머리 위치만 잡고 EEG 데이터는 아예 안 들어옴. 서포트는 답이 없고 레딧에선 창업자들이 조용히 사라졌다는 얘기만 있음. 싸지도 않았는데 열 받네.
리버스 엔지니어링하기 딱 좋은 케이스임.
그 사람 지금 1X에서 일한다니까 거기 아는 사람 있으면 핑 좀 넣어봐.
프라이버시는 원래 개인 자율성이고 뭐고 하는 옛날 개념에 같이 묶여 있던 사치품이었나 봄. 곧 그런 사고방식도 편집돼서 행복한 고기 로봇으로 승화될 듯.
잠깐, 너희는 행복했어?
회사가 5만 시간 모았으면 꽤 큰 데이터셋임. 나도 요즘 내 주변 오디오 녹음해서 전사한 거에 싼 EEG 센서 값을 붙여 매핑하는 걸 해보는 중이고, 나중엔 EEG에서 생각한 단어를 뽑아내는 트랜스포머까지 가보려고 함. Muse에 마이크가 없는 건 프라이버시엔 낫지만 학습엔 좀 불리하겠지.
두피 EEG는 노이즈가 장난 아니야. 건물 옆에 청진기 대고 방 안에서 뭐 하는지 맞히는 수준임.
Muse라길래 순간 메타인 줄 알았음. 메타가 웰니스 기기로 들어온다는데 곧 문 두드리러 올 듯.
이 분야 윤리는 진지하게 다뤄야 하지만, 소비자용 헤드셋 데이터는 실제로 알려주는 게 거의 없음. 신경과학 공부해본 사람이면 저 신호가 얼마나 뭉개져 있는지 알고, 광고에서 얼마나 과대해석하는지도 앎.