익명 블로거 gwern, 필명 절필 선언하고 AI 개인비서 스타트업 Guardian Angel 창업

트위터 글이 비공개라 승인된 팔로워만 볼 수 있음. 스크린샷으로 겨우 내용 확인함

은퇴한다는 거야 이름을 버린다는 거야 헷갈리네. 아무튼 gwern은 대단한 사람이지

gwern이 프라이버시에 너무 집착하는 거 아닌가 싶음. 최근 팟캐스트 나왔을 때도 목소리랑 얼굴 다 AI로 생성한 거 쓰던데 이제는 트윗까지 비공개로 돌림. 엘리트주의야 편집증이야

gwern은 원래 오래전부터 비공개 트위터 썼음. 그리고 gwern branwen 자체가 본명이 아니라 위키피디아에도 나와있음. 익명성에서 은퇴한다는 게 이번 발표의 핵심임

신원 공개는 한 번 하면 되돌릴 수 없음. 몇 년간 수많은 글을 써온 사람이니 익명 유지 이유를 함부로 재단하지 말고 각자 프라이버시는 각자 알아서 하게 두자

10년 가까이 gwern이랑 알고 지냈고 GPT-2로 체스 두게 하는 프로젝트도 같이 했음. 진짜 인간적이고 일의 파급력을 진지하게 고민하는 사람임. GA 아이디어 자체는 괜찮다고 봄. 나를 닮은 더 똑똑한 LLM에 얼마나 돈 낼 수 있는지 생각해보면 충분히 시도해볼 만한 사업임

나 자신을 가디언 엔젤로 두고 싶지 않음. 나조차 나를 제대로 못 챙기는데 더 똑똑한 버전의 나라니 더 최악일 듯. 차라리 완전히 다른 합성된 인격이 낫지 나 자신은 절대 아님

나를 닮은 LLM을 만들어서 판다는 발상 자체가 비인간적이고 역겨움. 그걸 파는 건 그 위에 얹은 최악의 마무리임

내 자신을 렌트해서 쓴다는 게 무슨 소리인지. 회사가 소유하고 나한테 빌려주는데 그게 어떻게 진짜 내 것이야. 결국 나를 더 잘 흉내낼수록 나를 착취하고 광고하고 선동하는 데 쓰기 좋은 정보가 될 뿐임

다들 이 기술의 위험성을 얘기하다가도 결국 해법이 또 다른 비슷한 기술이라는 데는 다 같이 고개 끄덕이는 게 이상함. 기술자들은 거울방에 갇혀서 인간성을 갉아먹는 기술 확산 말고는 다른 해법을 상상 못 하는 듯

ML 연구자가 자기 연구가 사람에 미치는 영향을 신경 쓴다는 걸로 놀랐다는 게 웃김. 이런 식의 훈훈한 서로 추켜세우기 뒤에 우리가 만든 세상이 어떤 꼴인지는 안 보임

gwern 얘기할 때 다들 he/him 쓰는 거 볼 때마다 좀 신기함. 이름이 gwen이랑 비슷하게 들려서 나는 자꾸 여성으로 생각하게 됨

gwern 글 좋아하는데 이 프로젝트는 신뢰성이나 보안을 사기업 하나에 맡긴다는 게 좀 수상함. 나중에는 군사용도 세일즈 포인트로 내세우던데 시대에 따라 가치관이 바뀌는 걸 생각하면 걱정됨. 어떤 부분은 이제 풍자처럼 읽히기도 함