DeepMind가 AGI 논의 플랫폼 'DeepMind Institute' 공개, 실체는 블로그
- DeepMind가 DeepMind Institute를 열었는데, 새 조직이나 비영리 재단이 아니라 Google DeepMind와 Google 연구자가 AGI 관련 글을 발행하는 블로그 플랫폼임. 사이트에는 "Introducing the DeepMind Institute", 추론 투명성, AGI 경제 정책, 새 유토피아주의, 프런티어 AI 프레임워크 등 에세이 5편이 올라와 있음.
- 해커뉴스에서는 이를 사내 싱크탱크로 보고 정부 정책 논의를 주도하려는 시도로 해석함. 'institute'라는 이름이 검증 절차 없이 권위를 준다는 지적과 Google과 거리를 두는 척한다는 비판이 함께 나옴.
- 경제 정책 에세이는 더 빠르고 정확한 측정 지표, 영향 시나리오 3단계, 실업보험 확대와 근로소득세액공제 같은 온건안, AI 이익 지분 소유 같은 급진안, AI 평가자가 정책 효용을 점수화하는 방안을 담음. 댓글에서는 이를 다리오·샘의 블로그와 같은 급으로 깎아내리는 건 게으르다는 반응과 개념 표 몇 개로 논문이라 할 수 없다는 반응이 갈림.
- 추론 투명성 에세이는 사고 연쇄를 숨기는 관행을 비판하는데, 댓글에서는 Gemini도 사고 연쇄를 암호화한다는 점이 지적됨.
- 해커뉴스 상위 링크 대부분이 11일 된 계정 하나로 올라왔다는 관찰이 나오면서 astroturfing 의혹이 제기됨.
Hacker News opinions
TL;DR: 새 조직 아니고 비영리 연구소도 아님. 그냥 Substack 블로그임. 이름만 institute 붙여서 권위 있어 보이게 한 거지.
institute라는 단어가 있으면 검증 절차 없이도 신뢰가 생기더라. 그래도 글 자체는 좋은 게 있음. 추론 투명성 글은 읽어볼 만함.
결국 정부 로비용 사내 싱크탱크 아님? 폭넓은 지적 논의와 토론이 필요하다는데, 그 논의가 이 산업을 닫자는 결론에 도달할 리는 없잖아.
어떻게 Google이랑 거리를 두는 척을 하지? 그게 제일 웃김.
AGI가 코앞이라는 주장에 동의 못 하겠음. 인간 두뇌의 모든 인지 능력? 심하게 손상된 뇌만도 못한데. LLM이 20~30분 대화도 일관성 유지 못 하면 AGI 얘기는 안 꺼내는 게 맞음.
그럼 어떤 능력이 아직 인간보다 뒤처지냐고. 오히려 지금 AI가 이미 인간 수준이거나 넘어선 능력이 뭐냐는 반문이 더 맞는 듯.
발전이 선형이면 안 가깝겠지만 지수적이면 모르는 일이지.
데미스 입장에서는 좀 허무하겠다. 평생 게임이랑 신경망에서 꿈을 구현해왔는데 말이지.
pacing the frontier 문제는 이럼. 재귀적 자기 개선이 오면 먼저 잡는 쪽이 압도적으로 유리함. OpenAI는 일단 부수고 보는 식이고 Anthropic은 두 번 재고 한 번 자르느라 힘들고, 뒤처진 Google이 신중론에 합류한 게 DeepMind Institute라는 거지. 샘 알트만은 동의하는 척할 수밖에 없음.
경제 정책 글은 꽤 좋았음. 측정 지표를 더 빠르고 정확하게, 영향 시나리오 3개, 실업보험 확대랑 EITC 같은 온건안, AI 이익 지분 소유 같은 급진안, AI 평가자가 정책 효용을 점수화하는 방식까지 들어 있음.
AI 평가자로 정책 점수 매긴다고 까는 사람 있는데, 논문들은 26살 박사과정생이랑 밤샌 룸메이트 감으로 점수 매기는 것과 다를 바 없음. 다리오나 샘 블로그랑 같은 급으로 깎아내리는 건 게으름.
research papers라니. 개념 표 몇 개로 논문이라고 하는 건 아니지. 게으르진 않지만 논문은 아님.
오늘 상위 링크 대부분이 11일 된 계정 하나로 올라온 거 눈치챈 사람? 봇들이 '그렇게 나쁘지 않아요' 내러티브를 astroturfing하는 중인 듯.
AI 관련 글은 원래 이래 왔음. 근데 하루에 몇 개씩 좋은 글이 올라오는 걸 보면 진짜 사람들은 아직 좋은 글을 알아본다는 뜻이라 위안이 됨.
Google이 마크 피셔를 인용한 건 포스트모던 지옥 세계 빙고판에 없던 칸임.
그냥 새 쇼윈도임. 볼 거 없음.