HBM — 한 글자로 AI 시대 전부를 설명하는 약어, High Bandwidth Memory 완전 정복

 

2023년 6월, 엔비디아 시가총액 1조 달러 돌파의 진짜 이유

2023년 6월. **NVIDIA(엔비디아)**가 사상 처음으로 시가총액 1조 달러를 돌파했다. 미국 역사상 7번째 1조 달러 기업. 이유는 단 하나 — AI 붐.

그러나 엔비디아 신화의 진짜 주인공은 따로 있다. GPU 자체가 아니라 — GPU 옆에 붙어 있는 메모리. 그 메모리의 이름이 — HBM(High Bandwidth Memory, 고대역폭 메모리).

2024년 한 해 동안 NVIDIA의 매출 약 80%가 H100·H200·B100 GPU에서 나왔는데 — 이 GPU들의 약 30% 원가가 HBM이다. NVIDIA H100 1대 가격 약 4만 달러(약 5,500만원) 중 — HBM 가격만 약 1만 달러.

그리고 그 HBM의 글로벌 시장 1위가 — 한국 기업. 정확히는 SK하이닉스(약 50%) + 삼성전자(약 40%) 합쳐서 약 90%.

오늘은 그 충격적 약어 HBM을 한 번에 정복한다.

HBM이란 무엇인가 — 풀이 먼저

HBM은 **High Bandwidth Memory(고대역폭 메모리)**의 약어.

글자 뜻

H	High (높은)
B	Bandwidth (대역폭)
M	Memory (메모리)

핵심 의미: "매우 빠르게 데이터를 주고받을 수 있는 메모리".

일반 컴퓨터 RAM은 GB/s 수준의 데이터 전송. HBM은 TB/s 수준 — 약 1,000배 빠름.

"Bandwidth" — 영어 핵심 어휘

영어 IT·통신 영어 핵심 명사 **"bandwidth(대역폭)"**의 뜻을 정확히 이해해야 한다.

단어 뜻

bandwidth	대역폭·처리량
high bandwidth	고대역폭
low bandwidth	저대역폭
bandwidth-intensive	대역폭 집약적
bandwidth bottleneck	대역폭 병목

비유: 도로를 생각해보자.

• 속도(speed) = 자동차가 얼마나 빨리 가는가
• 대역폭(bandwidth) = 도로가 몇 차선인가

HBM = "차선이 매우 넓은 메모리 고속도로".

HBM의 역사 — 2013년 한국에서 시작

시기 사건

2013년 10월	JEDEC이 HBM 표준 발표
2013년 12월	SK하이닉스 세계 최초 HBM 양산
2015	AMD Radeon R9 Fury X에 첫 적용
2016	HBM2 표준 발표
2018	HBM2 본격 양산
2020	HBM2E (E = Enhanced)
2022	HBM3 발표 (NVIDIA H100 채택)
2024	HBM3E (E = Extended) 양산
2026	HBM4 양산 시작 예정
2027	HBM4E

JEDEC(Joint Electron Device Engineering Council) = 반도체 메모리 국제 표준 단체. 미국 기반.

"Why HBM Was Born" — 어원적 필요성

2010년대 초반. GPU와 CPU가 점점 빨라졌지만 — 메모리 속도가 따라가지 못했다. 이를 **"memory wall(메모리 벽)"**이라 부른다.

영어 표현 뜻

memory wall	메모리 벽
bandwidth bottleneck	대역폭 병목
von Neumann bottleneck	폰 노이만 병목
memory bandwidth gap	메모리 대역폭 격차

해결책: 메모리를 GPU 옆에 붙이고, 데이터 통로를 1,000배로 확장.

이게 HBM의 핵심 아이디어.

HBM의 기술 — 3D 적층 구조

HBM의 핵심은 3D 적층(3D stacking). 일반 메모리는 평면(2D)에 놓이지만, HBM은 위로 쌓는다.

HBM 세대 적층 단수 용량

HBM	4단	1GB
HBM2	8단	4GB
HBM2E	8단	8GB
HBM3	12단	24GB
HBM3E	12~16단	36GB
HBM4 (2026)	16단 이상	48GB+

각 메모리 칩을 **TSV(Through-Silicon Via, 실리콘 관통전극)**로 수직 연결. 빌딩처럼 위로 쌓는 구조.

영어 핵심 어휘 — HBM 기술

영어 뜻

3D stacking	3D 적층
TSV (Through-Silicon Via)	실리콘 관통전극
stacked DRAM	적층 DRAM
interposer	인터포저 (HBM과 GPU 연결 기판)
die	다이 (개별 칩)
wafer	웨이퍼
bond	본드 (적층 접합)
microbump	마이크로범프
silicon bridge	실리콘 브리지

영어 반도체 엔지니어 영어 매일 등장.

"Memory Wall" — 21세기 영어 핵심

**"memory wall(메모리 벽)"**이 21세기 컴퓨터 과학 영어 핵심 용어. 1994년 William Wulf와 Sally McKee가 처음 사용.

표현 뜻

memory wall	메모리 벽
break the memory wall	메모리 벽 돌파
memory bandwidth bottleneck	메모리 대역폭 병목
CPU-memory gap	CPU-메모리 격차

21세기 AI 시대에 **"memory wall"**이 다시 핵심 이슈로 부상.

AI 시대 — HBM의 진짜 가치

2022년 11월 30일. ChatGPT 출시. 그 순간부터 — 전 세계가 AI GPU에 미친 듯이 투자했다.

AI 시대 핵심 사실

GPT-4 학습에 사용된 GPU	NVIDIA A100 약 25,000대
GPT-4 비용	약 1억 달러 (학습)
각 A100 GPU의 HBM	40GB / 80GB
ChatGPT 추론 시 HBM 사용	★★★★★

AI = 메모리 집약적 작업. 모델이 클수록 (parameter가 많을수록) 메모리가 많이 필요하다.

AI 모델 매개변수 (parameters) 필요 HBM

GPT-3	1,750억	약 320GB
GPT-4	약 1.8조	약 3,000GB+
Llama 3 70B	700억	약 140GB
GPT-5 (2026 예상)	약 10조	약 20,000GB+

HBM 없이는 현재의 AI가 불가능하다.

"AI GPU" — 21세기 영어 핵심

영어 뜻

AI GPU	AI 그래픽 처리 장치
AI accelerator	AI 가속기
inference chip	추론 칩
training chip	훈련 칩
TPU (Tensor Processing Unit)	구글 텐서 처리 장치
NPU (Neural Processing Unit)	신경 처리 장치
dedicated AI silicon	전용 AI 실리콘

영어 반도체·AI 영어 매일 등장.

NVIDIA의 GPU와 HBM 매칭

GPU 모델 HBM 종류 용량 출시

V100	HBM2	16GB / 32GB	2017
A100	HBM2E	40GB / 80GB	2020
H100	HBM3	80GB	2022
H200	HBM3E	141GB	2023
B100/B200	HBM3E	192GB	2024
B300 (2025)	HBM3E	288GB	2025
Rubin (2026)	HBM4	384GB+	2026 예상

각 GPU 세대마다 HBM 용량 약 2배 증가.

한국의 글로벌 1위 — 진짜 가치

시장 점유율 (2024)

SK하이닉스	약 49%
삼성전자	약 41%
Micron (미국)	약 10%
한국 합계	약 90% ★★★★★

한국 HBM 자산

세계 최초 HBM 양산 (SK하이닉스 2013)	★★★★★
HBM3 양산 1위 (SK하이닉스 2022)	★★★★★
NVIDIA 핵심 공급사	★★★★★
AI 시대 진짜 수혜자	★★★★★

SK하이닉스 시가총액 2024년 약 130조원 도달. AI 시대 한국 기업의 핵심 자산.

영어 비즈니스 영어 — HBM 단골 표현

영어 뜻

HBM supply	HBM 공급
HBM demand	HBM 수요
HBM allocation	HBM 배분 (NVIDIA 등이 누구에게 줄지)
HBM shortage	HBM 부족
HBM3E adoption	HBM3E 도입
HBM yield	HBM 수율
HBM qualification	HBM 인증
HBM roadmap	HBM 로드맵

영어 반도체 비즈니스 영어 매일 등장.

"HBM3E" vs "HBM3" — 미묘한 차이

영어 학습자가 자주 헷갈리는 차이.

약어 풀이 의미

HBM3	High Bandwidth Memory 3	3세대
HBM3E	HBM3 Extended	확장형
HBM4	HBM 4	4세대 (2026)

**"E"**가 "Extended(확장)" 또는 "Enhanced(향상)" 의미. HBM3와 HBM4 사이의 중간 단계.

미국·한국·대만 — 반도체 지정학

HBM은 **반도체 지정학(semiconductor geopolitics)**의 핵심.

국가 역할

미국 (NVIDIA)	AI GPU 설계
대만 (TSMC)	GPU 제조
한국 (SK하이닉스·삼성)	HBM 제조 ★★★★★
일본 (Tokyo Electron)	장비
네덜란드 (ASML)	EUV 노광기

한국 HBM = AI 시대 글로벌 핵심 인프라.

"Chip War" — 21세기 영어

**"Chip War(반도체 전쟁)"**이 21세기 영어 시사 영어 핵심 용어. 2022년 Chris Miller의 베스트셀러 책 제목.

표현 뜻

chip war	반도체 전쟁
semiconductor war	반도체 전쟁
tech war	기술 전쟁
chip diplomacy	반도체 외교
CHIPS Act	미국 반도체법 (2022)

영어 시사 영어 매일 등장.

"CHIPS Act" — 미국 영어 핵심

**"CHIPS Act(2022년 8월 9일 서명)"**이 21세기 미국 영어 핵심 법안.

영어 뜻

CHIPS Act	Creating Helpful Incentives to Produce Semiconductors
CHIPS and Science Act	정식 명칭
$280B funding	2,800억 달러 자금
TSMC Arizona fab	TSMC 애리조나 공장 (미국)
Samsung Texas fab	삼성 텍사스 공장

영어 시사 영어 매일 등장.

"DRAM" vs "HBM" — 차이

영어 학습자가 자주 헷갈리는 두 약어.

약어 풀이 의미

DRAM	Dynamic Random Access Memory	일반 메모리
HBM	High Bandwidth Memory	고대역폭 메모리
GDDR	Graphics DDR	그래픽 메모리

차이

DRAM	모든 컴퓨터 (CPU 옆)
HBM	AI GPU 옆 (3D 적층)
GDDR	일반 GPU (게이밍)

영어 반도체 영어 매우 자주 등장.

"GDDR" — 게이밍 메모리 영어

흥미로운 점 — 게이밍용 그래픽카드(NVIDIA RTX 4090 등)는 HBM이 아닌 GDDR(Graphics DDR) 사용. 가격이 훨씬 저렴.

메모리 용도 가격

HBM	AI·HPC	$$$ (매우 비쌈)
GDDR6X	게이밍 GPU	$$
DDR5	CPU·일반	$

영어 게이머·엔지니어 영어 매일 등장.

"Stacked Memory" — 영어 표현

**"stacked memory(적층 메모리)"**가 영어 반도체 영어 단골 표현.

영어 뜻

stacked memory	적층 메모리
3D NAND	3D 낸드 (SSD 기술)
chiplet	칩렛 (분할 칩)
2.5D packaging	2.5D 패키지
3D IC	3D 집적 회로

영어 반도체 영어 매일 등장.

"Advanced Packaging" — 21세기 영어 핵심

HBM과 GPU를 연결하는 기술이 "advanced packaging(고급 패키지)". 21세기 반도체 영어 핵심 분야.

영어 뜻

advanced packaging	고급 패키지
CoWoS	TSMC의 HBM-GPU 통합 기술
CoWoS-S	CoWoS-Substrate
CoWoS-L	CoWoS-Local Silicon
InFO	Integrated Fan-Out
SoIC	System on Integrated Chips

CoWoS(Chip on Wafer on Substrate): TSMC가 HBM과 GPU를 한 패키지에 통합하는 기술. NVIDIA H100·H200이 모두 CoWoS 사용.

"Yield" — 반도체 영어 핵심

**"yield(수율)"**이 반도체 영어 가장 중요한 용어 중 하나.

영어 뜻

yield	수율
good die per wafer (GDPW)	웨이퍼당 양품 다이
yield rate	수율
yield improvement	수율 개선
yield ramp	수율 상승
defect density	결함 밀도

HBM은 12단~16단 적층이라 — 수율이 매우 어렵다. SK하이닉스의 핵심 경쟁력이 HBM 수율.

미래 — HBM4와 그 이후

시기 HBM 세대 특징

2026	HBM4	16단 이상, 48GB+
2027	HBM4E	확장형
2028	HBM5 예상	32단 적층
2030+	HBM6	광자 인터커넥트

HBM4 핵심 영어

base die	베이스 다이 (HBM4 신기술)
logic process	로직 공정
TSMC base die	TSMC 베이스 다이
custom HBM	맞춤형 HBM

21세기 후반 반도체 영어 매일 등장.

"Process Node" — 반도체 영어 핵심

반도체 공정의 핵심 영어 "process node(공정 노드)".

영어 뜻

process node	공정 노드
5nm process	5nm 공정
3nm process	3nm 공정
2nm process	2nm 공정 (2025~)
angstrom era	옹스트롬 시대
A20 (Intel 20A)	인텔 20 옹스트롬

영어 반도체 영어 매일 등장.

"FinFET" vs "GAA" — 트랜지스터 영어

영어 학습자가 알아두면 좋은 트랜지스터 약어.

약어 풀이 시기

MOSFET	Metal-Oxide-Semiconductor FET	1960~
FinFET	Fin Field-Effect Transistor	22nm~
GAA	Gate-All-Around	3nm~
MBCFET	Multi-Bridge Channel FET (삼성)	3nm
CFET	Complementary FET (미래)	1nm 이하

영어 반도체 영어 매일 등장.

1조 달러 시장 — HBM의 미래

HBM 시장 규모

2022	약 30억 달러
2023	약 70억 달러
2024	약 180억 달러
2025 (예상)	약 330억 달러
2030 (예상)	약 1,000억 달러+

연평균 성장률 약 40~50%. AI 시대의 최대 수혜 반도체.

한 문장으로 기억하기

HBM = High Bandwidth Memory(고대역폭 메모리). 2013년 SK하이닉스가 세계 최초 양산. AI GPU 옆에 3D 적층된 메모리. NVIDIA H100·H200·B100 등 모든 AI GPU의 핵심 부품. 한국 SK하이닉스·삼성 합쳐 글로벌 시장 약 90% 점유. 2030년 약 1,000억 달러 시장 예상. 21세기 AI 시대 진짜 주인공.

차이 한눈에 보기

메모리 풀이 용도 가격

DDR5	Double Data Rate 5	일반 PC·서버	$
GDDR6X	Graphics DDR 6X	게이밍 GPU	$$
HBM3E	High Bandwidth Memory 3 Extended	AI GPU	$$$
HBM4	High Bandwidth Memory 4	차세대 AI GPU	$$$$

21세기 영어 시사·기술·비즈니스 영어에서 HBM만큼 자주 등장하는 약어는 거의 없다. NVIDIA·SK하이닉스·TSMC·삼성·AMD·Intel·Apple — 모든 기술 거인이 HBM을 두고 경쟁한다.

다음에 영어 뉴스에서 **"HBM"**을 들으면 떠올려 보시길 — 한국이 글로벌 1위인 그 메모리, AI 시대의 진짜 엔진, NVIDIA 시가총액 3조 달러의 숨은 주인공.

도움이 되셨다면 구독, 공감 한 번 부탁드립니다.

---

반도체 약어 시리즈 ⓒ wordiya.com