‘메모리 블랙홀’ 엔비디아…ICMS·DPU·LPDDR·시장 규모까지 한 눈에 보기 [갭 월드]

■서종‘갑 기자’의 갭 월드(Gap World) <37> 단순 연산 넘어 ‘추론·기억 뇌’로 진화 2027년 메모리 시장 1137조 원 전망 엔비디아 ‘ICMS’發 낸드·LPDDR 호황 젠슨 황 엔비디아 CEO가 5일(현지시간) 미국 네바다주 라스베이거스 퐁텐블로 호텔에서 열린 엔비디아 CES 2026 라이브에서 기조연설을 하고 있다. 라스베이거스=조태형 기자 “연산에서 기억으로.” 지금 글로벌 반도체 시장을 관통하는 지각변동을 한마디로 정의하면 이렇다. 인공지능(AI)이 데이터를 학습하고 단순 연산하던 단계를 지나 실시간으로 맥락을 파악하고 행동하는 ‘에이전틱 AI(Agentic AI)’로 진화했기 때문이다. 이제 얼마나 빨리 계산하느냐보다 ‘얼마나 방대한 맥락을 끊김 없이 꺼내오느냐’가 승부처가 됐다. 메모리 반도체가 연산 장치의 보조 수단을 넘어 AI 패권의 핵심 열쇠를 쥐게 됐다는 평가다. 27일 시장조사기관 트렌드포스에 따르면 AI의 구조적 변화에 힘입어 2027년 글로벌 메모리 시장 규모는 8427억 달러(약 1137조 원)에 달할 전망이다. 2026년 전망치인 5516억 달러(약 744조 원)에서 불과 1년 만에 53%가 폭증하는 수치다. 메모리 업계가 ‘슈퍼사이클’을 넘어 ‘초강세장(하이퍼불)’ 단계에 진입했다는 얘기가 나오는 이유다. 이 폭발적 성장의 진앙은 엔비디아의 설계도 변경에 있다. 그동안 AI 가속기의 핵심이 그래픽처리장치(GPU) 옆에 붙은 고대역폭메모리(HBM)였다면 이제는 그 너머의 거대한 저장소인 낸드플래시와 저전력 D램(LPDDR)로 전선이 급격히 확장되고 있다. HBM 빠르지만 용량 한계 봉착 해법은 ‘KV 캐시’ 저장소 확보 젠슨 황 엔비디아 CEO가 5일(현지시간) 미국 네바다주 라스베이거스 퐁텐블로 호텔에서 열린 엔비디아 CES 2026 라이브에서 기조연설 도중 AI 가속기를 들어 보이고 있다. 라스베이거스=조태형 기자 기술적 변곡점은 KV 캐시(Key-Value Cache)가 폭증하면서다. 이는 AI가 사용자와 대화를 나눌 때 질문의 의도(Key)와 맥락(Value)을 벡터 데이터로 저장해두는 단기 기억이다. AI가 똑똑해질수록 기억해야 할 대화의 호흡은 길어진다. 사용자가 수십 번의 문답 끝에 “그래서 걔는 왜 그래?”라고 물었을 때, AI가 ‘걔’가 누구인지 즉각 파악하려면 지난 대화의 모든 데이터를 실시간으로 기억하고 있어야 한다. 문제는 칩 내부의 HBM만으로는 이 방대한 데이터를 감당할 수 없다는 점이다. HBM은 속도가 빠르지만 비싸고 용량 확장에 물리적 한계가 뚜렷하다. 엔비디아가 칩 외부의 저장 장치로 눈을 돌릴 수밖에 없는 이유다. 엔비디아의 승부수 ‘ICMS’ 랙 하나에 9.6PB ‘데이터 댐’ 삼성전자의 V9 낸드. 사진제공=삼성전자 SK하이닉의 321단 2Tb(테라비트) QLC 낸드 플래시 제품. 사진제공=SK하이닉스 젠슨 황 엔비디아 최고경영자(CEO)가 CES 2026에서 공개한 ‘추론 맥락 메모리 스토리지(ICMS)’는 일종의 거대한 외부 기억 저장소다. 낸드플래시 기반의 대용량 솔리드스테이트드라이브(SSD)를 활용해 GPU가 언제든 꺼내 쓸 수 있는 저장 공간을 만든 것이다. 규모는 상상을 초월한다. ICMS 플랫폼은 16개의 스토리지 트레이로 구성되는데 트레이 하나당 600테라바이트(TB)의 SSD가 탑재된다. 랙(Rack) 하나로 계산하면 총저장 용량은 9.6PB(페타바이트)에 육박한다. 1PB가 약 100만 기가바이트(GB)니 최신 고용량 스마트폰 3만 대 분량의 데이터를 서버 한 대에 집약시킨 ‘데이터 댐’인 셈이다. 그동안 데이터센터 구석에서 단순 저장용으로 취급받던 낸드플래시가 AI 추론의 핵심 인프라로 격상된 것이다. DPU, 데이터 고속도로의 ‘관제탑’ LPDDR, 서버의 ‘스마트 물류 센터’ 젠슨 황 엔비디아 CEO가 5일(현지시간) 미국 네바다주 라스베이거스 퐁텐블로 호텔에서 열린 엔비디아 CES 2026 라이브에서 차세대 그래픽처리장치(GPU) 루빈과 데이터처리장치(DPU) ‘블루필드4’ 를 소개하고 있다. 라스베이거스=조태형 기자 단순히 창고만 늘린 것이 아니다. 데이터를 GPU로 실어나르는 물류 시스템도 혁신했다. 여기서 핵심 역할을 하는 것이 데이터처리장치(DPU)인 ‘블루필드-4’다. 기존 서버에서 중앙처리장치(CPU)가 데이터 통신과 이동을 관리하며 병목 현상을 빚었다면 블루필드-4는 이를 전담 처리하는 ‘고속도로 관제탑’ 역할을 한다. 데이터가 오가는 길목을 최적화해 GPU가 오로지 연산에만 집중하게 만드는 것이다. 주목할 점은 이 관제탑에 탑재된 메모리다. 엔비디아는 PC용 D램 대신 스마트폰에 쓰이는 128GB LPDDR5X를 선택했다. 전력 소모는 적으면서도 반응 속도가 빠른 LPDDR의 특성을 십분 활용한 것이다. 방대한 SSD 데이터가 GPU로 넘어가기 전 잠시 대기하며 분류되는 ‘스마트 물류 센터’로 모바일 D램이 낙점됐다. 모바일 시장 정체로 고민하던 삼성전자와 SK하이닉스에는 서버 시장이라는 거대한 신규 판로가 열렸다. ‘메모리 수요 급증’에 유통가 들썩 “현존 속도 10배” 하이닉스의 반격 딥시크. 연합뉴스 중국발 기술 변화도 변수다. 딥시크 등 중국 AI 기업들은 부족한 GPU 성능을 메우기 위해 D램에 데이터를 미리 깔아두는 ‘오픈북’ 전략(엔그램 기술)을 쓰고 있다. 이는 범용 D램 수요를 폭발시키는 촉매제다. 실제로 최근 대만계 유통가에서 메모리 가격을 80% 인상한다는 루머가 돌 만큼 현장의 물량 확보 전쟁은 치열하다. 트렌드포스는 1분기 D램 가격이 전 분기 대비 60% 이상 뛸 것으로 내다봤다. 국내 기업들은 기민하게 대응 중이다. SK하이닉스는 엔비디아와 손잡고 ‘AI-N P(Near Processing)’ 기술 개발에 속도를 내고 있다. GPU가 CPU를 거치지 않고 SSD에 직접 연결해 데이터를 퍼 나르는 ‘데이터 직통 도로’를 뚫는 기술이다. 김천성 SK하이닉스 부사장은 최근 “올해 말 PCIe 6세대 기반으로 2500만 초당 입출력 수행 능력(IOPS)을 지원하는 스토리지 시제품을 선보일 것”이라고 밝혔다. 이는 현존하는 최고 성능 SSD 속도의 약 10배에 달하는 수준이다. 나아가 SK하이닉스는 2027년 말까지 데이터 처리 속도를 1억 IOPS까지 끌어올린 제품을 내놓겠다는 구체적인 로드맵도 제시했다. 삼성전자, 초고용량 SSD로 주도권 굳히기 1137조 시장, ‘기억’을 잡는 자가 이긴다 삼성전자의 QLC 9세대 V낸드 낸드플래시 시장 1등 기업 삼성전자도 칼을 갈고 있다. 삼성전자는 업계 최고 수준의 낸드 적층 기술을 앞세워 쿼드레벨셀(QLC) 기반의 초고용량 기업용 SSD(eSSD) 시장 장악력을 높이고 있다. 특히 엔비디아의 스토리지 넥스트(Storage Next) 전략에 맞춰 128TB 이상의 초대용량 SSD 라인업을 강화하며 서버당 저장 밀도를 극대화하는 데 집중하고 있다. 이는 좁은 공간에 최대한 많은 데이터를 집어넣어야 하는 AI 데이터센터의 요구와 정확히 맞아떨어진다. 최근 메모리 반도체의 부각을 두고 AI 전쟁의 양상이 바뀌었다는 평가가 나온다. 누가 더 빨리 계산하느냐가 아니라 누가 더 많은 맥락을 끊김 없이 기억하느냐로 승부가 갈리게 됐다는 것이다. HBM에서 시작된 메모리 수급 불균형이 낸드와 LPDDR, 솔루션 전반으로 옮겨붙으며 내년 시장 규모를 1137조 원까지 키운다는 전망이 나오는 이유다. ※‘갭 월드(Gap World)’는 서종‘갑 기자’의 시선으로 기술 패권 경쟁 시대, 쏟아지는 뉴스의 틈(Gap)을 파고드는 코너입니다. 최첨단 기술·반도체 이슈의 핵심과 전망, ‘갭 월드’에서 확인하세요. 궁금한 사항이나 건설적인 논의, 제안도 언제든 환영입니다. 제 메일 gap@sedaily.com로 연락주시면 성심성의껏 후속 취재해 다음 시리즈에 반영하겠습니다. 갭 월드