OpenAI, 자체 LLM으로 Jalapeño 칩 설계... 파운드리 첫 칩 반환 후 벤치마크 성능 0.31%에서 88.94%로

나는 Jalapeño 고추를 직접 기른다. AI랑 실제 고추를 이렇게 뒤섞는 게 거슬린다.

그럼 잘 알파 멕시코 사람들은 어떤 기분이겠냐. 로열티라도 줘야 하는 거 아님?

"Agent"라는 단어 뜻이 완전히 망가진 것도 짜증난다. 왜 새 단어를 안 만들고 기존 단어를 뺏어 쓰는 거야.

전기 엔지니어들이 "transformer"라는 단어를 보고 어떤 기분일지 한번 생각해 봐라.

언젠가 누군가 LLM으로 Apple M 시리즈 경쟁 칩을 설계할 거 같다.

못 한다. ARM 아키텍처 라이선스가 있어야 하니까.

아니면 RISC-V 설계를 그 성능대까지 밀어붙이는 건 지금도 가능할지도 모른다.

양산급 CPU 설계는 RTL(소스코드)만으로 되는 게 아니다. 저 회사들이 뽑는 성능을 내려면 물리 설계에서 전력/성능/면적(PPA) 최적화를 엄청 해야 하는데, LLM은 그런 작업에 안 맞는다. PPA 최적화를 건드리는 사람들은 있어도 LLM으로 하는 건 아니다.

칩 만드는 법 전체 지식이 언젠가 누구나에게 열려도, 실제로 만드는 건 기존 대기업뿐일 수도 있다는 게 이상하지 않냐. 토큰에 돈만 쓰면 품질이 나오는 세상이면 신생 회사가 어떻게 진입하겠어.

그리고 Apple 특허 소송에 털릴 거다. 걔네가 걱정할 것 같냐.

OpenAI가 자기 모델 홍보하려고 칩 회사들이 자기 제품을 쓰게 만들어서 IP를 빼먹으려는 것처럼 보인다. 본문 어디에도 AI가 창의적인 걸 했다는 말은 없고 그냥 프로젝트 내 소프트웨어 개발에 쓴 거다. 제목이 명백히 clickbait이다.

Apple 내부 사정에 밝은 사람들의 팁도 좀 있었지. 그래도 LLM도 도움은 됐겠지.

Apple 소송은 어떻게 됐냐?

그 소송은 제품 디자인에 관한 거고 가속기 ASIC이랑은 상관없다. Apple은 데이터센터급 가속기가 없다.

전 TPU 팀 사람들에게 축하한다. XLS를 쓴다길래 놀랐는데 Chris가 몇 년 전에 그쪽으로 갔지.

그럼 칩 언제 싸게 살 수 있냐. RAM 좀.

병목은 여전히 파운드리지 설계가 아니다.

Jalapeño가 end-to-end 지연을 최대 3.6배 줄인다는데, 이런 숫자가 도대체 뭘 말하는지 모르겠다. 4.6이랑 1.0 비교냐, 3.6이랑 1.0 비교냐. spectrum.ieee.org 기사라 더 이상하다.

재귀적 자기 개선이 2023년보다 지금 더 그럴듯해 보인다는 건 좀 놀랍다. 나만 그런가. 칩 하나 만드는 데 20개월 걸리는 RSI면 맹렬한 속도는 아니지만.

IEEE Spectrum 좋은 매체다. 옛날 직장에서 매달 그 잡지를 돌려가며 필독 서명했었는데.