고대역폭메모리(HBM) 시장에서 뒤집기를 노리는 삼성전자(005930)가 회심의 카드로 12단 HBM을 꺼내들었다. 기존에 통용되는 8단 제품보다 성능을 끌어올린 이 제품으로 업계 주도권을 확보한다는 전략이다. 회사는 반도체의 주적인 열을 관리하는데 강점이 있는 자사만의 차별화된 HBM 기술로 이러한 목표를 실현해나갈 예정이다.
김경륜 삼성전자 상품기획실 상무는 18일 삼성뉴스룸을 통해 D램을 12단으로 쌓은 고적층 제품이 8단 제품을 대체해나갈 것으로 전망했다. 그는 “12단 HBM이 상용화되면 빠른 속도로 주류 시장을 대체해나갈 것”이라며 “이 제품을 쓰면 적은 수의 AI 서버로도 동일한 초대규모언어모델(LLM)을 서비스할 수 있어 기업들의 총소유 비용을 절감하는 장점이 있다”고 강조했다.
HBM은 D램을 수칙으로 쌓아올려 용량과 대역폭을 늘린 제품으로 대량의 데이터를 처리할 수 있도록 고안된 대표 AI 메모리다. 삼성전자는 2월 업계 최초로 12단 HBM인 36GB(기가바이트) HBM3E 12H를 개발했다. 업계에서 주로 사용하는 제품인 8단 HBM 대비 D램 단수가 4단이 높다. 8단 16GB HBM3 대비 용량은 2.25배 크다. 8단 시장에서 경쟁사에 밀린 삼성전자로서는 12단 제품에 거는 기대가 크다.
김 상무는 “범용인공지능(AGI) 시대를 만들기 위해 다수 빅테크 기업들이 경쟁적으로 AI 모델을 고도화하는 가운데 AI 모델들의 매개변수는 조 단위에 이르러 원활한 데이터 처리를 위해 고용량의 HBM이 요구되고 있다”며 “36GB HBM3E 12H에 대한 고객들의 기대도 매우 높다”고 덧붙였다.
삼성전자는 D램을 수직으로 쌓을 때 열압착 비전도성 접착필름(TC-NCF) 방식을 사용한다. 말 그대로 D램 사이에 필름을 덧대 결합하는 방식이다. 경쟁사인 SK하이닉스가 차용하는 매스리플로몰디드언더필(MR-MUF) 방식과 구분된다. HBM 시장을 양분하고 있는 이들이 각각 사용한 공정 차이가 향후 HBM 시장의 향방을 가를 수 있다는 관측도 나온다.
윤재윤 삼성전자 디램개발실 상무는 “HBM은 제품 세대별로 일정 이상의 두께를 넘어설 수 없어 많이 쌓을수록 코어다이의 두께는 얇아지게 된다”며 “그러다 보면 칩의 휘어짐이나 깨짐 현상으로 조립 난도가 높아지고 열저항이 커지는 문제가 발생한다”고 말했다. 윤 상무는 “삼성전자는 어드밴스드 TC-NCF 기술을 통해 소재의 두께를 낮추고 칩 간격을 줄였고 동시에 신호 특성이 필요한 곳은 작은 범프를, 열 방출이 필요한 곳은 큰 범프를 목적에 맞게 적용했다”며 “이 덕분에 열특성을 강화하면서 수율도 극대화했다”고 자신감을 드러냈다. 범프란 칩 사이를 전기적으로 연결하기 위해 형성한 전도성 돌기를 말한다.
김 상무는 HBM 시장이 초기 단계며 차별화된 기술로 판을 뒤집고 시장을 선도해나갈수 있다고 자신했다. 그는 “프로세서와 메모리 업체가 제품을 개별적으로 최적화해서는 AGI 시대가 요구하는 미래 혁신을 만들기 어렵다는 공감대가 있다”며 “맞춤형 HBM은 AGI 시대를 여는 교두보로 자사는 메모리·파운드리·시스템LSI 등 종합 역량을 십분 활용해 대응해나갈 것”이라고 말했다.