HBM 이을 HBF 시대 온다_BM의 아버지 카이스트 김정호 교수

 

출처 : 김정호 KAIST 교수

 

HBM 이을 HBF 시대 온다.
 
HBF는 HBM을 대체하지 않고, HBM 바로 뒤에서 초대용량 파라미터 저장/전송을 담당하는 2차 계층 메모리

HBM이 휘발성 메모리인 D램을 수직으로 쌓은 것이라면,
HBF는 비휘발성 메모리인 낸드 플래시를 수직으로 쌓아 용량을 극대화한 메모리다.
속도가 빠르지만 용량 확장이 어려운 HBM보다 10배 정도 용량이 크다.
방대해지는 AI 모델의 데이터를 저장하기 위한 차세대 메모리 필수 기술로 여겨진다.

✅KAIST 김정호 교수팀이 제안한 HBF (High Bandwidth Flash) + HBM 결합 아키텍처

📌HBF의 역할
HBM을 대체하지 않음 → GPU와 직접 연산을 수행하는 초고속 메모리는 여전히 HBM.
2차 계층 메모리(Second-tier memory) → 대규모 모델 파라미터(Weights)를 불러올 때 HBM 뒤에서 지원하는 보조 기억장치.
Endurance 문제 없음 → 학습 시 지속적인 쓰기가 아닌, 주로 읽기(read-only) 용도로 모델 가중치를 불러오는데 사용.
Latency 크게 중요하지 않음 → 실시간 연산보다는 초기 로딩 및 대용량 전송 역할.

HBM의 초고속 + HBF의 초대용량 결합
→ 초거대 AI 모델(수십~수백 TB급 파라미터)을 GPU에 빠르게 올려 학습/추론 가능.

HBM 한계 극복
현재 HBM은 용량당 가격이 비싸고, 최대 용량에도 한계가 있음.
HBF는 속도는 낮지만 훨씬 저렴하고 대용량 확장 가능.

실질적 용도
GPT-5/6 같은 수백억~수천억 파라미터 모델 로딩 시 유용.
추론(Serving) 시 대규모 weight swap을 빠르게 처리.
데이터센터 차원에서 GPU 활용률을 극대화.


 

 

✅HBM의 아버지 카이스트 김정호 교수님의 HBF차세대 메모리 산업 방향성

📌핵심 내용
HBF(High Bandwidth Flash)
낸드 플래시를 HBM처럼 적층(stacking)하는 차세대 구조.
향후 반도체 산업 성과를 좌우할 핵심 기술이 될 것으로 전망.

AI 수요 전망
현재는 텍스트·이미지 수준의 생성이지만, 앞으로는 장편 영화 수준의 초장대 영상까지 AI가 직접 생성할 것.
이를 위해서는 기존 메모리 대비 1000배 이상의 용량(capacity) 필요.

🔥테라랩(Terra Lab)은 2000년대 초 설립되어 HBM과 패키징 기술을 선도.

📌의미와 해석
HBM → HBF로의 확장
지금까지는 AI 가속기·서버용 메모리 = HBM 중심.
앞으로는 낸드 플래시도 HBM처럼 3D 적층 구조화 → 초대용량·초고속화를 동시에 달성.
AI 애플리케이션의 메모리 폭증 수요
텍스트·이미지 생성은 비교적 데이터량이 작음.
초장편 영상·영화 생성 AI는 스토리지·메모리 요구량이 폭발적.
따라서 메모리 산업의 혁신(용량 1000배 확대)이 필수.

산업적 파급효과
기존 낸드·HBM 업체들이 HBF 개발 경쟁에 뛰어들 가능성.
AI + 반도체 패키징 수요가 글로벌 산업 판도를 다시 흔들 것.

 
🔥 우리나라의 삼성전자와 SK하이닉스의 패키징 및 메모리 강점이 장기적으로 유리한 위치.