Dario Amodei의 'We Must Pace the Frontier' 조목조목 반박: 오픈 웨이트 규제, 반독점 면제, 봇넷 공포까지

halfway crooks 문구가 투팍 샤쿠르가 만든 줄 알았는데, Mobb Deep이었더라.

"경제 파괴로 인한 일자리 상실과 사망은 괜찮다"는 게 좀 이상한 감정인데, 타이프라이터가 사라진 것 같은 사례로 사망자 수를 따져서 경제가 변하면 안 된다고 결론 내릴 수 있나? 애초에 말이 안 되는 소리 같은데.

코로나 때 미국 공화당이 불필요한 상업 활동을 유지하면서 경제 지원을 요구했잖아. 그게 딱 그 논리였음.

작가 주장에 다 동의하는데, 좀 딴 얘기지만 Dario 아내의 Epstein 파일 관련 얘기가 왜 이렇게 빨리 사라졌는지 의아하더라.

에이전트가 봇넷 만든다는 부분은 진짜 터무니없음. Anthropic 자체 스택도 안전하지 않은데 세상 모든 회사가 그럴 거라고 가정하는 거지. 이 글은 미산스로픽 컬트에 파묻혀 묻힐 거야.

보안은 안 챙기고 기능만 계속 추가하고 상시 업데이트 돌리면 대가가 온다는 건 당연한 거 아닌가.

Amodei와 회사에는 유보적이지만 소프트웨어는 잘 쓰고 있어. 그리고 샌더스처럼 다 같이 느려지자는 데는 동의함. 마지막 대규모 군비 경쟁이 남긴 피해를 생각하면, AI가 미중 경쟁이니 늦추면 인간이 서로를 사랑할 시간이라도 벌지 않을까.

중국은 안 늦춘다. 그럼 미국도 안 늦춰야지.

그 군비 경쟁이 80년 넘게 세계대전을 막았는데 무슨 피해를 말하는 거임? 그 이후로 실전에서 터진 핵무기는 0개다.

Amodei는 윤리와 도덕으로 독점 성향을 숨기는 실리콘밸리 사기꾼일 뿐임. 에세이나 쓸 시간에 모델과 하네스 전부 오픈소스로 풀고 과학계에 컴퓨트나 기부해라.

LLM이 인류를 멸망시킬 만큼 뛰어나면서 그 위협으로부터 인류를 지킬 만큼은 못하다는 게 설명이 안 됨. 이걸 그냥 엔트로피라고 넘기는 건가?

늦추자는 얘기는 새롭지도 않음. 왜 하필 그가 시점을 정함? 진작 걱정하던 사람들이 옳았다고 먼저 사과해야 맞는 거 아님.

샌더스 제안은 정의조차 안 된 연구를 20년 감금하자는 건데, 그것도 동의함?

다 같이 늦추면 IPO로 나가는 돈을 덜 흘릴 수 있으니 좋겠지. 감속을 스튜어드십이라고 포장하면 수익 감소 의혹이 밸류에이션을 안 떨어뜨리니까.

빅랩들이 인프라에 $1.6T 넘게 썼는데, 합리적 ROI를 만들 만한 수익이 나올 시간표가 안 나옴. 세상에서 제일 똑똑한 컴퓨터 과학자들이 의회에 자기 규제를 요청하는 게 말이 되나.

책임(accountability) 얘기가 아무도 안 하는 게 신기함. 관리자를 실제로 처벌하면 모델은 알아서 느려질 텐데.

컴퓨트가 Anthropic과 OpenAI에 게이트돼 있는데 에이전트가 어떻게 인터넷을 장악함? 제어 노드의 API 접근만 끊으면 끝 아닌가.

왜 이 회사들이 면책으로 남을 피해를 끼치게 두냐면, 투자자들이 수천억을 부었고 실제 결과가 그 돈과 성장을 위협하니까.

데이터센터에서 도는 무상태 통계 IO 함수를 '지능'이라고 부르는 마케팅이 사람들에게 없는 행위성을 부여하는 거임.

'너무 뛰어나서 무섭다'는 자랑이 수백만 GPU를 가진 걸 보면 별로 인상적이지 않음. AI 빌드아웃은 역사상 최대 규모의 집중 투자 중 하나고, 빅2가 파이프라인 데이터센터 컴퓨트의 20~33%를 최종 고객으로 가져감.