삼성전자의 3D HBM 콘셉트와 특성. 자료출처=김경륜 삼성전자 상무 발표자료.삼성전자가 ‘3D 고대역폭메모리(HBM)’를 HBM 시장의 게임 체인저가 될 수 있다고 보고 기술 선점에 속도를 내고 있다. SK하이닉스에 빼앗긴 HBM 주도권을 선행 기술 개발로 찾아올 수 있을지 업계의 관심이 집중되고 있다.
김경륜 삼성전자 상무가 11일 한국과학기술회관에서 열린 대한전자공학회의 ‘지능형 반도체 워크숍’에서 차세대 고성능 메모리에 대해 설명하고 있다. 강해령 기자
11일 김경륜 삼성전자 상무는 서울 강남구 한국과학기술회관에서 열린 대한전자공학회의 ‘지능형 반도체 워크숍’에 참석해 회사의 3D HBM 개발 방향에 대해 설명했다. 삼성이 3D HBM에 대한 콘셉트를 소개한 적은 있지만 제품의 특성과 장점이 대중에게 공개된 것은 처음이다.
3D HBM은 인공지능(AI) 칩 업계의 패러다임을 바꿀 수 있는 솔루션으로 주목받고 있다. HBM은 연산장치 바로 옆에 위치하는 고용량 D램이다. 일반적인 D램보다 정보 이동 통로 수가 많고 연산장치와의 거리가 가깝기 때문에 AI 데이터를 효율적으로 처리할 수 있는 메모리로 각광받고 있다.
하지만 AI 업계에서 예상을 뛰어넘는 수준으로 데이터가 증가하는 것이 문제로 떠오르고 있다. 연산장치와 HBM이 더욱 가까운 거리에서 정보 교환을 해야 이 문제가 해결될 수 있다는 진단도 나온다.
3D HBM은 이를 해결하기 위해 연산장치와 HBM의 거리를 좁힌 것이 특징이다. 마치 아파트처럼 아예 연산장치 바로 위에 HBM을 쌓은 것이 기본 콘셉트다.
김 상무는 이 솔루션이 AI 연구자들의 갈증을 해소할 만한 성능을 구현할 수 있다고 소개했다. 우선 정보 이동 속도를 나타내는 대역폭이 10배나 증가할 수 있다고 설명했다. 연산장치와 HBM을 연결하는 배선 길이가 짧아지는 데다 정보 이동 통로를 더욱 세밀하고 많이 뚫을 수 있기 때문이다.
또한 두 개의 반도체를 합치면서 얻을 수 있는 장점도 있다. 패키징 면적은 기존보다 0.5배 감소하고 전력 효율 역시 0.6배 증가할 것으로 예상된다. 김 상무는 “3D HBM은 미래에 꼭 구현돼야 할 솔루션이라는 것임에 이견이 없다”고 강조했다.
문제는 열 관리다. 다수의 칩을 결합하면 각 반도체가 내뿜는 열을 바깥으로 빼내는 게 쉽지 않다. 칩 수명 단축이나 연산 오류, 전력 문제가 커질 수 있다.
3D HBM 배치 순서를 바꾼 방법. 자료출처=김경륜 삼성전자 상무 발표자료.김 상무는 이 문제를 해결하기 위해 “칩 배치 순서를 바꾸는 방법도 고려하고 있다”고 했다. 발열이 가장 심한 연산장치를 냉각장치와 가장 가까이 두기 위해 기판-HBM-연산장치 순서로 쌓는 것이다. 그는 “쉽지 않은 방법이라 1~2년 사이에 구현되지는 않을 것이지만 기술의 잠재성이 있기 때문에 예의 주시하고 있다”고 설명했다.
삼성전자는 이 기술 외에도 HBM 안에 기억장치 외 연산소자(ALU)까지 탑재하는 ‘커스텀 HBM’도 개발하고 있다. 개별 고객사 요청에 맞춤 대응하는 기술로 각광받고 있다. 김 상무는 “커스텀 HBM은 경쟁 D램 업체보다 더 적극적으로 개발하고 있다”고 강조했다.
삼성전자가 차세대 기술 확보에 공을 들이는 이유는 AI용 메모리 시장에서 빼앗긴 초격차 주도권을 다시 찾아오기 위해서다. 최근 AI 업계에서는 HBM 열풍이 불었지만 삼성전자는 지난해부터 SK하이닉스에 리더 자리를 내주며 고전하고 있다. 이에 선행 기술을 빠르게 개발해 핵심 AI칩 고객사들의 마음을 사로잡겠다는 전략을 세운 것으로 분석된다.
