재테크 금융
HBM 이후의 AI
넥스트북 시그널
넥스트북(NextBook)
0 (0명)
3명이 읽었어요
유료 작품은 원스토리 앱에서 이용 할 수 있어요.
- 소장
- 11,000 ⓒ
| 듣기기능 | TTS지원 | 파일정보 | EPUB |
|---|---|---|---|
| 총 용량 | 0.6 MB | 이용기기 | |
| ISBN | 9791176426084 | ||
책 소개
AI 인프라 시장은 오랫동안 더 큰 모델, 더 많은 GPU, 더 많은 HBM이라는 등식으로 움직였다. 그런데 터보퀀트가 던진 질문은 그 등식을 흔든다. 같은 메모리로 더 긴 문맥과 더 많은 동시 사용자를 처리할 수 있다면 HBM 수요는 줄어드는가, 아니면 더 넓은 추론 시장으로 옮겨 붙는가.
이 책은 구글 터보퀀트 이후의 AI 인프라를 메모리, GPU, 데이터센터, 클라우드 가격, 반도체 밸류체인 관점에서 차례로 해석한다. 핵심은 단순한 HBM 종말론이 아니다. KV 캐시 압축이 추론 서버의 병목을 어떻게 바꾸는지, 효율화가 GPU 활용률과 토큰당 원가, 데이터센터 설계, 전력과 냉각 산업까지 어떻게 연결되는지 읽어 낸다.
반도체 투자자, AI 인프라를 보는 실무자, 클라우드와 데이터센터 산업의 다음 판을 이해하려는 독자에게 이 책은 뉴스 하나에 흔들리지 않는 구조적 판단 기준을 제공한다. 효율은 수요를 없애는 것이 아니라 돈이 머무는 위치를 바꾼다. 이 책은 바로 그 이동 경로를 추적한다.
이 책은 구글 터보퀀트 이후의 AI 인프라를 메모리, GPU, 데이터센터, 클라우드 가격, 반도체 밸류체인 관점에서 차례로 해석한다. 핵심은 단순한 HBM 종말론이 아니다. KV 캐시 압축이 추론 서버의 병목을 어떻게 바꾸는지, 효율화가 GPU 활용률과 토큰당 원가, 데이터센터 설계, 전력과 냉각 산업까지 어떻게 연결되는지 읽어 낸다.
반도체 투자자, AI 인프라를 보는 실무자, 클라우드와 데이터센터 산업의 다음 판을 이해하려는 독자에게 이 책은 뉴스 하나에 흔들리지 않는 구조적 판단 기준을 제공한다. 효율은 수요를 없애는 것이 아니라 돈이 머무는 위치를 바꾼다. 이 책은 바로 그 이동 경로를 추적한다.
목차
프롤로그. 메모리가 남는 순간, 시장의 질문이 바뀌다
1장. 터보퀀트 쇼크는 왜 HBM 이후의 첫 충격인가
1절. 반도체 시장은 왜 소프트웨어 발표 하나에 흔들렸나
2절. HBM 시대의 병목은 왜 계산보다 메모리였나
3절. 터보퀀트는 무엇을 줄이고 무엇은 건드리지 않나
4절. ‘HBM 수요 종말론’이 바로 틀리기 쉬운 이유
2장. KV 캐시를 이해하면 메모리 판이 보인다
1절. AI 추론에서 KV 캐시는 어떤 일을 하나
2절. 긴 문맥과 다중 사용자 부하가 메모리를 잡아먹는 구조
3절. KV 캐시 압축은 왜 GPU 활용률까지 바꾸나
4절. 압축이 커질수록 데이터센터 운영 논리가 달라지는 이유
3장. HBM 수요는 줄어드는가, 옮겨 붙는가
1절. 학습용 메모리와 추론용 메모리는 어떻게 다르나
2절. HBM·DDR5·eSSD 수요는 각각 어디에서 흔들리나
3절. 메모리 업체 실적은 왜 오히려 더 복잡해지나
4절. 제번스의 역설은 이번에도 작동할까
4장. GPU는 덜 사게 되는가, 더 빽빽하게 쓰게 되는가
1절. GPU 병목은 연산보다 메모리 점유에서 먼저 시작된다
2절. KV 캐시 압축은 동시 처리량을 어떻게 바꾸나
3절. 추론 서버의 원가는 왜 칩 수보다 가동률에 민감한가
4절. 엔비디아 독주는 약해지나, 오히려 더 넓어지나
5장. 데이터센터 설계는 왜 다시 배선부터 바뀌나
1절. HBM 중심 설계에서 계층형 메모리 설계로
2절. GPU·CPU·SSD·네트워크의 역할은 어떻게 재배치되나
3절. 수랭·전력·면적의 경제성은 무엇이 달라지나
4절. AI 팩토리는 왜 더 큰 창고보다 더 빠른 물류를 원하나
6장. 클라우드 가격표 뒤의 수익식이 다시 쓰인다
1절. 토큰당 원가가 내려가면 누가 먼저 값을 내리나
2절. 캐시 재사용과 장문 추론은 어떤 서비스에 유리한가
3절. 오픈소스 서빙 스택은 왜 더 빨리 확산될 수 있나
4절. 하이퍼스케일러와 GPU 클라우드의 승부처
7장. 메모리만의 이야기가 아닌 이유
1절. 패키징과 기판은 어떤 구간에서 계속 타이트한가
2절. 광통신·스위치·NIC은 왜 더 중요해지나
3절. SSD와 분산 스토리지는 어떤 반사이익을 얻나
4절. 전력과 냉각 산업은 어디서 다시 성장하나
8장. 반도체 밸류체인은 무엇을 다시 계산해야 하나
1절. 메모리 업체의 제품 믹스 전략은 어떻게 바뀌나
2절. GPU 업체와 시스템 업체의 대응 시나리오
3절. 서버 ODM과 클라우드의 협상력 변화
4절. 한국 반도체 산업이 특히 민감한 이유
9장. 터보퀀트 이후, 추론 시장은 어떻게 커지나
1절. 에이전트와 장문 추론이 만드는 새 수요
2절. 기업용 AI 도입 장벽은 어디서 낮아지나
3절. 로컬 AI와 엣지 AI는 얼마나 빨라질 수 있나
4절. 효율화가 총수요를 키우는 조건과 한계
10장. 투자자는 무엇을 숫자로 봐야 하나
1절. 공포가 먼저 반영되는 지표와 늦게 반영되는 지표
2절. 메모리 업체를 볼 때 매출보다 먼저 볼 것
3절. 데이터센터 투자를 볼 때 랙당 지표가 중요한 이유
4절. 단기 뉴스와 장기 체력의 구분법
11장. 과장과 오해를 걷어내는 시나리오 분석
1절. HBM 수요 붕괴 시나리오는 어디까지 가능한가
2절. 추론 폭증 시나리오는 무엇이 전제여야 하나
3절. 기술 확산이 늦어질 수 있는 현실적 장애물
4절. 가장 가능성 높은 중간 경로
12장. HBM 이후의 승자는 어떻게 갈리나
1절. 메모리의 승부는 용량이 아니라 구조로 간다
2절. 데이터센터의 승부는 칩이 아
1장. 터보퀀트 쇼크는 왜 HBM 이후의 첫 충격인가
1절. 반도체 시장은 왜 소프트웨어 발표 하나에 흔들렸나
2절. HBM 시대의 병목은 왜 계산보다 메모리였나
3절. 터보퀀트는 무엇을 줄이고 무엇은 건드리지 않나
4절. ‘HBM 수요 종말론’이 바로 틀리기 쉬운 이유
2장. KV 캐시를 이해하면 메모리 판이 보인다
1절. AI 추론에서 KV 캐시는 어떤 일을 하나
2절. 긴 문맥과 다중 사용자 부하가 메모리를 잡아먹는 구조
3절. KV 캐시 압축은 왜 GPU 활용률까지 바꾸나
4절. 압축이 커질수록 데이터센터 운영 논리가 달라지는 이유
3장. HBM 수요는 줄어드는가, 옮겨 붙는가
1절. 학습용 메모리와 추론용 메모리는 어떻게 다르나
2절. HBM·DDR5·eSSD 수요는 각각 어디에서 흔들리나
3절. 메모리 업체 실적은 왜 오히려 더 복잡해지나
4절. 제번스의 역설은 이번에도 작동할까
4장. GPU는 덜 사게 되는가, 더 빽빽하게 쓰게 되는가
1절. GPU 병목은 연산보다 메모리 점유에서 먼저 시작된다
2절. KV 캐시 압축은 동시 처리량을 어떻게 바꾸나
3절. 추론 서버의 원가는 왜 칩 수보다 가동률에 민감한가
4절. 엔비디아 독주는 약해지나, 오히려 더 넓어지나
5장. 데이터센터 설계는 왜 다시 배선부터 바뀌나
1절. HBM 중심 설계에서 계층형 메모리 설계로
2절. GPU·CPU·SSD·네트워크의 역할은 어떻게 재배치되나
3절. 수랭·전력·면적의 경제성은 무엇이 달라지나
4절. AI 팩토리는 왜 더 큰 창고보다 더 빠른 물류를 원하나
6장. 클라우드 가격표 뒤의 수익식이 다시 쓰인다
1절. 토큰당 원가가 내려가면 누가 먼저 값을 내리나
2절. 캐시 재사용과 장문 추론은 어떤 서비스에 유리한가
3절. 오픈소스 서빙 스택은 왜 더 빨리 확산될 수 있나
4절. 하이퍼스케일러와 GPU 클라우드의 승부처
7장. 메모리만의 이야기가 아닌 이유
1절. 패키징과 기판은 어떤 구간에서 계속 타이트한가
2절. 광통신·스위치·NIC은 왜 더 중요해지나
3절. SSD와 분산 스토리지는 어떤 반사이익을 얻나
4절. 전력과 냉각 산업은 어디서 다시 성장하나
8장. 반도체 밸류체인은 무엇을 다시 계산해야 하나
1절. 메모리 업체의 제품 믹스 전략은 어떻게 바뀌나
2절. GPU 업체와 시스템 업체의 대응 시나리오
3절. 서버 ODM과 클라우드의 협상력 변화
4절. 한국 반도체 산업이 특히 민감한 이유
9장. 터보퀀트 이후, 추론 시장은 어떻게 커지나
1절. 에이전트와 장문 추론이 만드는 새 수요
2절. 기업용 AI 도입 장벽은 어디서 낮아지나
3절. 로컬 AI와 엣지 AI는 얼마나 빨라질 수 있나
4절. 효율화가 총수요를 키우는 조건과 한계
10장. 투자자는 무엇을 숫자로 봐야 하나
1절. 공포가 먼저 반영되는 지표와 늦게 반영되는 지표
2절. 메모리 업체를 볼 때 매출보다 먼저 볼 것
3절. 데이터센터 투자를 볼 때 랙당 지표가 중요한 이유
4절. 단기 뉴스와 장기 체력의 구분법
11장. 과장과 오해를 걷어내는 시나리오 분석
1절. HBM 수요 붕괴 시나리오는 어디까지 가능한가
2절. 추론 폭증 시나리오는 무엇이 전제여야 하나
3절. 기술 확산이 늦어질 수 있는 현실적 장애물
4절. 가장 가능성 높은 중간 경로
12장. HBM 이후의 승자는 어떻게 갈리나
1절. 메모리의 승부는 용량이 아니라 구조로 간다
2절. 데이터센터의 승부는 칩이 아