챗GPT가 이끈 생성형 인공지능(AI)에 이어 이번에는 온디바이스(On-Device) AI 시장이 열리며 새로운 메모리 반도체가 주목받고 있다. 온디바이스 AI는 서버와 클라우드를 거치지 않고 스마트폰 등 정보기술(IT) 자체에서 AI 기능을 구현하는 기술을 뜻한다. 이를 위해서는 기존 제품보다 월등히 빠른 반응속도에 전력 소모는 낮고 크기도 더 작은 반도체가 탑재돼야 한다. 고대역폭메모리(HBM)에 이어 새로운 ‘캐시카우’ 등장이 임박한 셈이다.

13일 업계에 따르면 삼성전자(005930)는 내년 말 양산을 목표로 LLW(Low Latency Wide IO·저지연성와이드IO) D램을 개발하고 있다.

LLW는 정보가 들어오고 나가는 통로인 입출구(I/O)를 늘려 기존 모바일 제품인 LPDDR 대비 대역폭을 높인 특수 D램이다. 대역폭은 전송속도와 비례하기 때문에 기기에서 실시간으로 생성되는 데이터를 처리하는 데 훨씬 유리하다. 삼성전자는 2020년 이전부터 온디바이스 AI 경량화 알고리즘을 개발해 시스템온칩(SoC)과 메모리·센서에 적용하며 온디바이스 AI용 반도체 경쟁력을 높여왔다. 내년 삼성전자의 자체 개발 생성형 AI ‘삼성 가우스’의 모바일 제품 탑재를 시작으로 본격적인 시장 선점에 나설 것으로 전망된다.

박용인 삼성전자 시스템LSI사업부 사장은 지난달 서울 강남구 코엑스에서 열린 ‘반도체대전 2023에서 “AI 활용처가 늘어날수록 클라우드 운영 비용 자체는 여전히 문제일 것이고 보안 등의 이슈도 남아있다”며 “기존 클라우드 중심의 AI 시대에서 영역을 엣지단으로 확대해 ‘온디바이스 AI’가 기술적 혁신으로 이어질 것”이라고 강조했다.

SK하이닉스(000660)도 내년 초 출시 예정인 애플의 차세대 증강현실(AR) 디바이스 ‘비전프로’에 특수 D램을 공급한다. 이 D램은 애플이 비전프로용으로 새롭게 개발한 ‘R1’이라는 칩과 연동해 실시간 고화질 영상을 처리를 지원한다. 애플은 개발 단계에서 SK하이닉스의 D램을 고대역 제품으로 변경해 R1 칩에 적용하는 등 협력을 이어왔다.

온디바이스 AI는 스마트폰과 자율주행차, 확장현실(XR)·증강현실 등의 IT 기기 내에서 △대화 인식 △문서 요약 △위치 인식 △작동 제어 등 다양한 기능을 수행한다. 서버 AI가 복잡한 연산을 위해 클라우드를 거치는 반면 온디바이스 AI는 수억 개의 연산을 기기에서 곧바로 수행한다. 전력을 많이 소모하지 않으면서 대용량 데이터를 고속으로 연산하려면 옆에서 연산을 보조하는 D램 역시 성능 고도화가 필수다.

업계에서는 HBM에 이어 LLW D램 시장이 확대되면서 ‘고객 맞춤형 메모리’ 시대가 본격적으로 열릴 것으로 기대한다. 온디바이스 AI를 탑재하는 기기가 다양하고 원하는 기능 역시 제각각이기 때문에 고객과 개발 단계부터 긴밀한 협업을 통해 생산 방식, 수량 등을 정해야 한다. 소품종 대량생산 방식에서 벗어나 수주 형태로 사업을 운영할 수 있기 때문에 메모리 제조사들은 가격 협상력을 유지하며 안정적으로 실적을 확보할 수 있다.

노근창 현대차증권 리서치센터장은 “현재는 데이터 센터에서 생성형 AI서비스가 활성화되고 있지만 향후에는 에지 디바이스인 PC와 스마트폰에서도 AI 서비스가 확대될 것이고 온디바이스 AI에는 새로운 니어 메모리인 LLW D램이 필요할 것”이라며 “LLW 수요는 유닛 감소로 어려움을 겪고 있는 스마트폰 D램 시장에 콘텐츠 급상승이라는 새로운 수요 모멘텀을 창출할 것으로 예상된다”고 말했다.