[반도체] HBM(High Bandwitdh Memory)

HBM(High Bandwidth Memory)은 고대역폭 메모리로, 기존 메모리(RAM, VRAM 등)보다 훨씬 빠른 데이터 전송 속도와 더 낮은 전력 소비를 특징으로 하는 차세대 메모리 기술입니다. 주로 AI 가속기, GPU, 고성능 컴퓨팅(HPC) 등에 사용됩니다.

 

---

🔧 HBM 기본 개념

구분설명

이름	HBM: High Bandwidth Memory
형태	3D 스택 방식으로 메모리 다이(DIE)를 위로 쌓음
인터페이스	실리콘 인터포저(Silicon Interposer)를 통해 CPU/GPU와 연결
특징	고속 데이터 처리, 낮은 지연시간, 에너지 효율 우수

 

---

🧱 구조 및 기술 특징

1. 3D TSV(Through Silicon Via) 기술 사용
   • 메모리 칩을 수직으로 쌓고, 각 칩을 TSV로 연결하여 고속 통신 가능
2. 실리콘 인터포저 사용
   • 메모리 스택과 프로세서를 하나의 베이스 인터포저 위에 배치
   • 배선 길이를 줄여 신호 지연 감소 및 대역폭 증가
3. 대역폭 증가
   • HBM2는 256GB/s 이상, HBM3는 최대 819GB/s 이상 지원 가능

---

📊 HBM 세대 비교

세대출시 시기대역폭 (1스택 기준)스택 수전력 효율

HBM1	2015년	~128 GB/s	최대 4층	우수
HBM2	2016년	~256 GB/s	최대 8층	더 우수
HBM2E	2020년경	~460 GB/s 이상	최대 8층	개선됨
HBM3	2022년	~819 GB/s 이상	최대 12층	매우 우수
HBM3E	2024~2025년	최대 1.2TB/s 예상	최대 16층	최신, AI용 최적화

 

---

📦 어디에 사용되나?

분야활용 예시

AI 가속기	NVIDIA H100, AMD MI300X 등
GPU	AMD Radeon Vega, NVIDIA A100 등
고성능 서버	슈퍼컴퓨터, 데이터 센터
자동차·통신	자율주행 칩, 5G 베이스밴드 등에서도 점진 도입 중

 

---

✅ HBM의 장점

• 엄청난 대역폭: 기존 GDDR6 대비 수 배 빠름
• 낮은 전력 소모: 같은 작업 처리 시 더 적은 에너지 사용
• 고집적 구조: 작은 공간에 많은 용량과 속도 탑재 가능

---

⚠️ HBM의 단점

• 가격: 제조 단가가 매우 높음 (TSV, 인터포저 등 복잡한 공정 때문)
• 발열: 고대역폭과 고집적 구조로 인해 냉각 설계가 필수
• 생산 어려움: 수율(양품률) 확보가 어렵고, 복잡한 제조 공정 필요

---

💬 요약

HBM은 기존 메모리보다 훨씬 빠르고 효율적인 고성능 메모리로, AI/슈퍼컴퓨터 시대에 최적화된 메모리 기술입니다. HBM3와 HBM3E는 현재 AI 반도체 경쟁의 핵심 자원이기도 합니다.