전압 결함 주입으로 채굴 카드 CMP 170HX를 A100-80G로 개조, 리테일 A100보다 1.18배 빠름
- 전압 결함 주입(VFI)으로 GA100 다이의 퓨즈를 임의로 날릴 수 있는 취약점을 찾아, CMP 170HX 8GB를 실질 A100-80G로 개조함
- 개조한 카드는 FP16 FMA 85.858 TFLOP/s로 리테일 A100(72.488 TFLOP/s)보다 1.18배 빠름. 수율 안전을 위해 108개로 묶은 A100과 달리 SM 120~126개가 전부 살아있기 때문임
- NVIDIA 설계는 퓨즈를 더 날릴수록 제한이 풀리는 구조라, 퓨즈가 항상 더 제한적인 상태를 만들어야 한다는 보안 원칙을 어긴 사례임
- NVLink, PCIe Gen4, NVJPG, NVDEC, MIG처럼 CMP에서 꺼둔 기능도 같은 방법으로 풀 수 있음. NVJPG, NVDEC, MIG는 아직 검증하지 않음
- NVIDIA 제품 보안팀에 미리 알렸고, 다른 연구자가 같은 취약점을 독립적으로 발견한 뒤 공개를 결정함. 관련 코드는 GitHub kate-land/ga100vfi에 공개됨
Hacker News 의견들
nvidia가 퓨즈를 꽂은 이유가 A100으로 쓰기엔 불량이 많아서 광산용으로 내린 거 아닐까? 기업용이 훨씬 돈 되니까 DRAM처럼 그럴 듯한데.
원래 이런 건 다 이렇게 하는 거 아님? CPU 코어 수도 같은 웨이퍼에서 나오고, 코어 적은 쪽은 불량 코어를 꺼둔 것뿐임.
그건 맞는데 직접 테스트 돌려서 진짜 불량인지, 아니면 그냥 넉넉하게 태그한 건지 확인해볼 만하지.
여기선 반대인 것 같더라. 그래서 A100보다 빠른 거고. A100은 수율 보고 108 SM으로 맞춘 거니까.
ECC가 살아있다니 그건 알 수 있겠네. 나는 최근에 불량 A100을 받았는데 업체가 ECC를 꺼놔서 조용히 쓰레기 값이 나왔음.
CMP 170HX 가격은 이미 폭등했고 쿨러도 없음. 서버용 쿨러라 제트기 소리 남. 80GB 언락된 것도 램 불량 때문에 원래 A100이 못 된 카드들이고.
쿨링이랑 언더클럭은 필수겠지. 그래도 싸게 주워먹으면 80GB가 횡재인데.
그 램 불량도 해당 영역만 플래그해서 무시하면 몇 MB 손해로 끝남.
P100이나 P4 같은 옛날 테슬라에도 이런 게 나왔으면 좋겠음. 파스칼 시절 CMP 100 언락도 있었음.
이 카드들 싸게 살 때 샀으면 좋았는데. 몇 달 전에 1k달러도 싸다고 했고 그 전엔 200달러였음.
80GB HBM을 붙여놓고 90%를 꺼버리던 시절이 있었다는 게 신기함.
그건 비닝된 카드였잖아. HBM 불량 때문에 그랬는지도 궁금하고.
이더리움 채굴 카드라는데 이걸 언락하면 채굴 말고 쓸모 있는 걸 할 수 있는 거임?
이더는 더 이상 채굴 안 하니까 그건 의미 없고, 일반 A100이 하는 머신러닝에 그냥 쓰면 됨.
시장 분할하려고 일부러 성능 잘라서 파는 건 도덕적으로 이해가 안 감. 다이 불량 막는 건 이해하는데 기능이 멀쩡하면 얘기가 다르지.
이런 건 흔한 관행임. 적은 수를 설계해서 세그먼트 나누는 게 시장별로 따로 만드는 것보다 싸고 안전함. 하위 모델이 아예 없어지거나 더 비싸지는 게 대안임.
수율이 좋아지면 하위 칩이 사라져서 저가 옵션이 없어짐. 불량 부분만 막아서 파는 게 낫다고 봄.