메모리 반도체의 피크아웃(정점 후 하락) 우려 속에서도 인공지능(AI)을 중심으로 한 ‘커스텀(맞춤형) 칩’ 시장은 가파른 성장세를 이어가고 있는 것으로 나타났다. 빅테크들이 메모리 업체에 요구하는 사양과 기능이 다양해지면서 관련 시장이 커지고 있기 때문이다. 삼성전자(005930)와 SK하이닉스(000660) 등 국내 주요 반도체 기업들도 고객사 선점을 위해 발 빠르게 움직이고 있다.

13일 시장조사 업체 트렌드포스에 따르면 지난해 76억 달러(약 10조 2000억 원) 수준이었던 글로벌 맞춤형 반도체 시장은 2028년 450억 달러(약 60조 4000억원)까지 성장할 것으로 전망된다. 5년 만에 시장 규모가 6배 넘게 성장하는 셈이다. 연평균 성장률은 43%에 달한다.

이는 전반적인 수요 침체 상황에서도 최상급 AI 가속기 개발을 위한 빅테크들의 투자는 여전히 활발하게 이어지고 있기 때문이다. 최근 마이크로소프트(MS)와 구글, 테슬라와 애플 등 글로벌 빅테크들은 자사 기기·서비스에 특화된 맞춤형 AI 가속기와 플랫폼을 자체 개발하고 있다. 기기의 형태와 제공하는 서비스가 모두 다른 만큼 가속기마다 필요로 하는 반도체의 사양과 기능도 제각각이다.

예컨대 고대역폭메모리(HBM)을 적용하는 AI 가속기의 경우에도 적층된 D램의 아래를 칭하는 ‘로직 다이’에 저전력 기능 등을 추가하는 식의 맞춤형 최적화가 가능하다. AI 가속기의 구조가 완전 달라지는 경우도 있다. 대규모 데이터를 기반으로 구축하는 ‘학습’ 모델의 경우 병렬 연산(데이터를 동시에 처리)에 특화한 그래픽처리장치(GPU) 기반 AI 가속기가 적합하지만 한 분야에 특화된 기능인 ‘추론’의 경우 신경망처리장치(NPU) 등을 활용한 AI 가속기 구조를 고려해볼 수 있다. 아마존과 메타는 이러한 형태의 AI 가속기를 개발하고 있고 HBM 대신 그래픽 D램(GDDR)을 적용하는 가속기도 존재한다.

삼성전자와 SK하이닉스 등 국내 주요 반도체 기업은 우선 수요가 폭증하는 HBM을 중심으로 맞춤형 칩 사업을 전개하겠다는 전략이다. 지금까지는 HBM 완성품을 빅테크의 AI 반도체에 일괄적으로 납품해왔다면 차세대 제품인 HBM4, HBM4E부터는 고객사별 요구사항을 받아들여 가장 효율적인 AI 반도체를 설계하겠다는 것이다.

삼성전자는 6세대 HBM인 HBM4부터 고객 맞춤형 콘셉트를 도입한다. 이정배 삼성전자 메모리사업부장(사장)은 지난 3일 대만에서 열린 세미콘타이완 최고경영자(CEO) 서밋에서 “다른 파운드리(반도체 수탁생산) 기업 등과 협업해 20개가 넘는 맞춤형 솔루션을 준비하고 있다”며 맞춤형 HBM 사업의 청사진을 밝혔다. 파운드리 라이벌인 TSMC와 손을 잡고 버퍼리스(buffer-less) HBM 제품도 개발하고 있다. 기존 HBM보다 전력효율을 40% 증대하고 지연 속도는 10% 낮춘 제품이다.

장기적으로는 2027년까지 ‘원스톱 AI 솔루션’ 시스템을 구축하겠다는 계획이다. 파운드리와 메모리, 패키징을 아우르는 서비스를 일괄 제공해 경쟁사 대비 삼성만의 장점을 극대화하겠다는 것이다. 해당 솔루션을 활용하는 팹리스 고객이 각각 다른 업체를 사용하는 것보다 칩 개발과 생산시간을 20% 단축할 수 있도록 하는 것이 목표다.

SK하이닉스는 7세대 제품인 HBM4E부터 맞춤형 HBM 시장이 본격화될 것으로 보고 있다. 내년 생산하는 HBM4부터 이를 위한 기반 작업이 시작될 것으로 보인다. TSMC와 협력해 로직 다이에 고객사별 니즈에 맞는 다양한 기능을 넣는 방식이다. 이 과정에서 올라가는 공정 난도를 해결하기 위한 2.5D 및 3D 시스템인패키징(SiP) 등의 다양한 기술도 개발하고 있다. 류성수 SK하이닉스 부사장은 지난달 열린 SK그룹 이천포럼에서 “M7(애플·마이크로소프트·엔비디아·알파벳·아마존·메타·테슬라)이 모두 찾아와 HBM 커스텀을 해달라고 요청했다”고 강조했다.