뉴질랜드 풍자매체, AI 기업들이 '인류 멸망 능력' 경쟁 벌인다는 패러디로 HN 화제

이런 내용이 Onion 기사가 아니라는 게 무섭다. 사실 이 매체도 패러디 사이트임.

'과학처럼 들리는 아무말 선임강사'라니, AI 보도 자체를 비꼬는 거겠지.

아모데이 전자레인지 대목에서 두 번 읽었음. 아, 풍자구나 싶더라.

이제 누가 제일 무서운 넥서스를 가졌는지 증명하는 단계로 넘어갔네. 인간의 과장 능력은 끝이 없다.

중국 회사들은 정부 보조금으로 미국 모델 증류해서 공짜로 뿌리는데, 그게 진짜 공산주의지 /s

중국 정부 보조금이 AI 회사한테 직접 가나? 발전소랑 반도체에나 가지. [citation needed]

그러는 미국은 세금으로 수십억 달러 무입찰 계약을 안 준다고? 부통령이 특정 회사 투자자 출신인 건 또 뭐고.

진지하게, Domyn CEO가 OpenAI랑 Anthropic이 안전성에 대해 거짓말한다고 했음. HN 링크도 있더라.

AI는 진짜 강력하고 위험한 기술이고 best practice는 아직 쓰이는 중임. OpenAI 샌드박스는 공용 인터넷에 붙은 chroot 수준이었고 계속 뚫렸어.

그 샌드박스가 별도 VM도 아니고 에어갭도 아니었으면 그냥 과실임. 외부 보안업체 감사 결과나 좀 보고 싶다.

그렇게 위험한 걸 왜 대중에게 파나? 통제 못 하는 치명적 병원체를 출시해놓고 '문서로 경고했다'고 변명하는 것과 뭐가 다름?

CEO들이 이렇게까지 자기 제품이 위험하다고 홍보하는 건 규제 포획 때문이라고밖에 안 보임. moat가 없으니 정부에 비승인 AI 서비스 금지를 로비하려는 거지.

수십 년째 진심으로 믿어서 그럴 수도 있음. 둘 다 가능하지.

'AGI'에서 '위협'으로, 다시 recursive self improvement로 화제가 옮겨가는 게 노림수 같음. 그러면서 GPT 6, Opus 5.5는 또 나옴.

Super AGI는 불가피하고 우리가 먼저 만들어 악한 조직을 막아야 한다는 프레임으로 보면 이 회사들 행동이 다 이해됨.

약속한 AGI를 못 내놓을 것 같으니 '신중함'을 변명으로 쓰려는 것 아닐까. 나중엔 규제 탓, 전력 비용 탓으로 돌리겠지.

CEO 일은 주가 올리기임. 공포를 팔아서 AI 주식을 사게 만드는 것뿐이고, 그 과정에서 나온 기술은 부산물이지.

실제로 해킹이 있었다면 OpenAI를 고소해야 함. 그 음모도 discovery에서 드러날 거고, 스케일링 근거와 안전성 부실도 같이 나오겠지.