글의 순서
고대역폭 메모리(HBM)란 무엇인가
고성능 컴퓨팅이나 AI 칩을 검색하다 보면 어느 순간 'HBM'이라는 단어를 자주 접하게 됩니다. 고대역폭 메모리(HBM, High Bandwidth Memory)는 기존 RAM이나 그래픽카드용 GDDR 메모리보다 훨씬 빠른 속도와 더 나은 전력 효율을 자랑합니다.
HBM은 메모리 칩을 수직 적층하는 방식의 3D 구조와, 실리콘 인터포저라는 특수한 연결 장치를 통해 GPU나 CPU와 직결됩니다. 이로 인해 기존 메모리보다 대역폭은 압도적으로 높으면서도 지연 시간은 짧고, 소비 전력은 판이하게 낮습니다.
기존 메모리와의 차이점
- GDDR6는 평면 배치 구조로 설계되며, 대략 56GB/s의 대역폭을 제공합니다.
- HBM2는 수직 스택 구조로 최대 256GB/s를 기록하며,
- HBM3는 819GB/s,
- 그리고 HBM3E는 1.2TB/s 이상을 목표로 하고 있습니다.
다음은 HBM과 기존 GDDR 메모리의 기본적인 차이점입니다.
| 항목 | HBM | GDDR6 |
|---|---|---|
| 구조 | 3D 적층 | 수평 배치 |
| 대역폭 | 최대 1.2TB/s 이상 (HBM3E) | 약 56GB/s |
| 전력 소모 | 낮음 (효율적) | 높음 |
| 적용 대상 | AI, HPC, 데이터센터 | 소비자용 GPU |
HBM 기술의 발전 과정
고대역폭 메모리는 진화를 멈추지 않았습니다. HBM1에서 시작해 HBM2, HBM2E, HBM3, 그리고 이제 HBM3E까지 빠르게 세대를 넘겨 왔습니다.
HBM1에서 HBM3까지의 주요 변화
- HBM1 (2015년): AMD Fiji GPU에 최초 탑재. 최대 128GB/s.
- HBM2: 대역폭 256GB/s. NVIDIA Tesla V100에 사용.
- HBM2E: 개선된 속도(최대 460GB/s), 용량 최대 16GB.
- HBM3 (2021~): 819GB/s, 64GB 용량으로 AI 워크로드 지원.
- HBM3E: 초당 1.2TB 이상 대역폭, 차세대 AI 가속기에 채택 예정.
고성능 컴퓨팅과 AI에 미치는 영향
이처럼 발전한 HBM 기술은 AI 모델과 고성능 컴퓨팅에서 열쇠 같은 존재입니다.
AI 학습 데이터는 그 양이 기하급수적으로 커지고 있고, HBM은 이러한 데이터를 지연 없이 초고속으로 처리할 수 있게 합니다. 더 많은 파라미터를 빠르게 불러오고, 병목 현상 없이 구동할 수 있죠.
데이터 처리 속도와 에너지 효율 개선
- TSV와 인터포저: 메모리 간 거리를 축소, 속도 상승과 전력 절감.
- 낮은 레이턴시: 프로세서와 물리적으로 가까워 지능형 연산처리에 유리.
- 적은 크기: 동일 성능 대비 적은 공간으로, 냉각 설계에도 유리.
NVIDIA A100, AMD Radeon Vega, 인텔 Ponte Vecchio 같은 제품들이 그 예입니다.
글로벌 시장에서의 HBM 경쟁 구도
지금은 단순히 기술력이 문제가 아닙니다. 누가 먼저 대규모 양산 체계를 확보하고, NVIDIA 같은 핵심 고객사로부터 인증을 받느냐가 더 중요합니다.
- SK 하이닉스: 현재 NVIDIA에 HBM을 공급하는 주요 파트너로 자리 잡았습니다.
- 마이크론: HBM3E 제품이 NVIDIA 품질 검증을 통과해 블랙웰 울트라 AI에 탑재 예정입니다.
- 삼성전자: 아직 NVIDIA의 HBM3E 인증을 받지 못한 상태로, 시장 진입이 지연되고 있습니다.
마이크론은 현재 HBM 시장에선 가장 점유율이 낮지만, 70억 달러를 들여 싱가포르에 새로운 HBM 공장을 건설 중입니다. 올해 안에 20% 시장 점유율을 목표로 하고 있습니다.
HBM은 단순한 메모리가 아니라, AI 시대의 ‘정보 처리 속도’ 그 자체를 좌우하는 핵심 부품입니다.
