AI 발표장의 조명은 대개 거대한 GPU 보드를 향한다. 화면에는 신형 가속기의 이름과 연산 성능이 먼저 뜨고, 관객은 더 많은 코어와 더 높은 처리량을 AI의 속도로 받아들인다. 그러나 데이터센터 안으로 들어가면 장면은 달라진다. 서버 랙 뒤쪽에는 전력 케이블과 냉각 배관이 지나가고, 패키지 위에는 GPU 옆으로 낮은 HBM 스택이 붙어 있다. 계산할 데이터가 그 짧은 길을 제때 지나오지 못하면 가장 비싼 연산 장치도 기다린다. AI 시대에 메모리가 갑자기 중요해진 것이 아니라, 연산 능력이 커지면서 오래 숨어 있던 데이터 이동 비용이 제품의 성능과 전력, 출시 일정의 앞쪽으로 올라온 것이다.
고대역폭 메모리HBM는 이 변화의 중심에 있지만, 혼자 빛나는 부품은 아니다. 여러 장의 디램을 수직으로 쌓고, 수천 개의 미세한 통로로 연결하며, 연산 칩 가까이에 배치하는 구조는 좁은 길 하나를 더 빠르게 만드는 대신 넓은 길을 동시에 여는 방식이다. 그 넓은 길은 얇은 칩을 정확히 쌓는 공정, 열과 뒤틀림을 견디는 패키징, 로직 베이스 다이를 만드는 파운드리, GPU와 메모리를 잇는 인터포저, 패키지를 받치는 기판, 서버 랙의 전력과 냉각이 같은 시간표에 놓일 때만 실제 성능으로 바뀐다. HBM은 독립된 부품이라기보다 여러 기업의 공정과 검증이 한 패키지 안에서 맞물리는 시스템 부품이다.
이 책은 젠슨 황과 엔비디아가 왜 메모리 기업과의 관계를 기술 로드맵의 한복판에서 다루는지 묻는다. 질문의 답을 특정 기업의 납품 여부나 단기 시장점유율에서 찾지 않는다. 엔비디아의 공식 제품 자료와 공시, 삼성전자·SK하이닉스·마이크론의 제품 발표, 국제반도체표준협의기구JEDEC의 메모리 표준, 파운드리와 첨단 패키징 업체의 기술 자료를 서로 대조해 연산과 메모리가 공동으로 설계되는 구조를 살핀다. 샘플을 보냈다는 발표와 고객 인증을 마쳤다는 사실, 양산 준비와 실제 양산, 상용 제품 출하와 장기 공급 계약은 서로 다른 단계이다. 그 차이를 지우면 산업 분석은 빠르게 기업 응원전으로 변한다.
2026년 7월의 공식자료를 기준으로 보면 인공지능 가속기 시장은 호퍼와 블랙웰을 거쳐 베라 루빈으로 이동하는 과정에 있다. 엔비디아는 루빈 GPU 한 개에 288기가바이트 HBM4와 초당 22테라바이트의 메모리 대역폭이라는 예비 사양을 제시했고, 루빈 플랫폼이 본격 생산 단계에 들어갔다고 밝혔다. 같은 시기 메모리 세 회사는 HBM4와 HBM4E에 관해 서로 다른 표현을 사용했다. 상용 제품 출하, 대량 생산, 샘플 공급, 공동 개발, 공급 지원은 각기 다른 사실을 가리킨다. 이 책은 그 표현을 한 줄로 압축하지 않고, 발표 주체와 기준일과 범위를 살려 읽는다.
독자는 대역폭과 지연 시간, 적층 구조와 실리콘 관통 전극, 베이스 다이와 인터포저 같은 낯선 용어를 처음부터 차근차근 만나게 된다. 비유는 이해를 돕는 데 쓰되 비유로 설명을 끝내지 않는다. 데이터가 저장장치에서 서버 메모리를 거쳐 GPU 가까이 이동하는 실제 흐름, HBM의 넓은 입출력 통로가 대역폭을 만드는 계산 원리, 적층 수가 늘 때 수율과 열 문제가 커지는 이유를 구체적으로 풀어낸다. 이어 파운드리, 첨단 패키징, 기판, 네트워크, 전력, 냉각이 왜 하나의 공급망 시간표로 묶이는지 살핀다.
한국 기업은 이 구조에서 중요한 자리를 차지하지만, 산업적 비중이 커졌다는 사실과 영구 우위는 같은 말이 아니다. SK하이닉스와 삼성