삼성전자, 경쟁 제품보다 50% 이상 개선된 HBM3E DRAM 최초 개발
삼성전자는 업계 최초로 36GB(기가바이트)의 고대역폭메모리인 HBM3E(5세대 HBM) 12단 적층(12H) D램 개발에 성공했다고 밝혔다. 고대역폭메모리(HBM)는 AI의 학습과 추론에 사용하는 반도체 패키지, AI 가속기의 핵심 부품으로 메모리 제품 중 판매 비중은 낮지만 매출 비중은 높은 고부가가치 메모리 제품이다.
12단 적층 D램은 기존 8단 적층 구조의 24GB D램 칩을 수천 개의 미세 구멍을 뚫은 D램 칩을 수직으로 쌓고 적층한 칩 사이를 전극으로 연결하는 기술인 TSV(Through-Silicon Via, 실리콘 관통 전극) 기술을 이용해 12단까지 적층한 것으로 업계 최대 용량인 36GB를 자랑한다. 삼성전자는 이 기술을 바탕으로 고용량 HBM(고대역폭메모리) 시장 선점에 나설 계획이다.
HBM3E 12H는 초당 최대 1,280GB의 대역폭과 현존 최대 용량인 36GB를 제공해 성능과 용량 모두 전작인 HBM3(4세대 HBM) 8H(8단 적층) 대비 50% 이상 개선됐다. 삼성전자는 열압착 비전도성 접착 필름(Advanced Thermal Compression Non Conductive Film) 기술로 12H 제품을 8H 제품과 같은 높이로 구현해 HBM 패키지 규격을 만족시켰다. 열압착 비전도성 접착 필름 기술을 적용하면 HBM 적층 수가 증가하고, 칩 두께가 얇아지면서 발생할 수 있는 ‘휘어짐 현상’을 최소화할 수 있어 고단 적층 확장에 유리하다.
삼성전자는 NCF 소재 두께도 꾸준히 낮춤으로써, 업계 최소 간격인 ‘7㎛’를 구현했다. 이를 통해 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현했다.
특히, 칩과 칩 사이를 접합하는 공정에서 신호 특성이 필요한 곳은 작은 범프를, 열 방출 특성이 필요한 곳에는 큰 범프를 목적에 맞게 크기를 맞춰 적용했다. 크기가 다른 범프 적용을 통해 열 특성을 강화하는 동시에 수율도 극대화했다.
또한, 삼성전자는 NCF로 코팅하고 칩을 접합해 범프 사이즈를 다양하게 하면서 동시에 공극(Void) 없이 적층하는 업계 최고 수준의 기술력도 선보였다.
삼성전자가 개발에 성공한 HBM3E 12H는 AI 서비스의 고도화로 데이터 처리량이 급증하는 상황 속에서 AI 플랫폼을 활용하는 다양한 기업들에 최고의 솔루션이 될 것으로 기대된다.
특히, 성능과 용량이 증가한 이번 제품을 사용할 경우 GPU 사용량이 줄어 기업들이 총 소유 비용(TCO, Total Cost of Ownership)을 절감할 수 있는 등 리소스 관리를 유연하게 할 수 있는 것도 큰 장점이다
예를 들어 서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때 보다 평균 34% AI 학습 훈련 속도 향상이 가능하며, 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능할 것으로 기대된다.
삼성전자는 HBM3E 12H의 샘플을 고객사에 제공하기 시작했으며 상반기부터 양산할 예정이다.
