[이혁재의 칩 비하인드] 인공지능 시대와 메모리 반도체의 새로운 기회

◆이혁재 서울대 반도체공동연구소 소장


인공지능(AI) 시대에 메모리 반도체의 중요성이 부각되면서 우리나라 반도체 산업에 새로운 기회의 장이 열리고 있다. 특히, 2022년 11월 발표된 챗GPT의 성공은 인공지능 기술의 대중화를 가속화하며 반도체 산업에도 새로운 성장 가능성을 열어주었다. 이 과정에서 가장 큰 주목을 받은 기업 중 하나는 인공지능 반도체인 그래픽처리장치(GPU)를 제작하는 엔비디아이다. 또 인공지능용 메모리인 HBM(High Bandwidth Memory)를 성공적으로 개발한 SK하이닉스도 꾸준히 성장하고 있다.


HBM이란 데이터 이동 속도를 획기적으로 향상시킨 메모리 반도체로 챗GPT와 같은 인공지능 기술들의 실행 속도 향상에 큰 영향을 미친다. 챗GPT가 나오기 이전의 인공지능 기술들은 메모리 반도체보다 GPU 같은 시스템반도체의 성능이 속도를 향상시키는 중요한 요인이었다.


이러한 종류의 인공지능 기술들을 ‘계산-중심 (compute-bound)’ 모델이라고 한다. 반면, 챗GPT처럼 메모리 반도체가 실행 속도에 큰 영향을 미치는 경우, 이러한 기술은 ‘데이터-중심 (data-bound)’ 혹은 ‘입출력-중심 (io-bound)’ 모델이라고 부른다. 앞으로는 ‘데이터-중심’ 인공지능 모델이 대세로 자리 잡을 전망이기 때문에 메모리 반도체의 중요성도 지속적으로 확대되고 있다.


시스템 반도체의 경우 개인용 컴퓨터(PC)용 반도체인 중앙처리장치(CPU)에서 모바일용인 어플리케이션 프로세서(AP)로 발전하고, 최근에는 인공지능용인 GPU로 발전하며 새로운 종류의 반도체로 진화해왔다.


반면 메모리 반도체의 경우 그 종류는 거의 변하지 않고 속도와 용량을 향상시키는 방향으로 발전되어 왔다. 따라서 메모리 반도체 기업에서는 어떤 종류의 반도체를 개발할 지 고민할 필요 없이 성능 향상이라는 당연한 목표를 향하여 개발하면 되었다.


하지만 인공지능 시대가 되면서 메모리 반도체도 새로운 종류가 사용되었는데, 그 대표적인 예가 바로 HBM 반도체이다. 이 HBM의 구조는 디램(DRAM) 반도체를 적층으로 쌓아 올리고 위, 아래를 수직으로 연결함으로써 속도를 향상시킨 새로운 종류의 메모리이다.


이제 반도체 업계의 관심은 HBM 이후 어떤 메모리 반도체가 주목받을 지로 이동하고 있다. 현재 기업들은 PIM, VCS, 혹은 CXL 메모리 등 다양한 차세대 기술을 개발 중이다. 그러나 여러 반도체를 동시에 개발하는 것은 기업의 연구 개발 역량에 큰 부담으로 작용할 수 있다.


또한 차세대 메모리의 성공 가능성을 높이려면 타겟 응용 프로그램의 특성을 이해하는 것이 중요하다. HBM의 경우를 봐도 챗GPT와 같은 타겟 인공지능 모델의 특성이 ‘데이터-중심’ 모델이라는 것을 파악함으로써 HBM의 성공 가능성을 예측할 수가 있다. 이에 따라 반도체 기업들은 다수의 차세대 메모리 기술을 동시에 개발하는 부담 뿐만 아니라 타겟 응용 프로그램의 특성에 대한 연구도 병행해야 하는 추가적인 부담을 안게 되었다.


이러한 부담을 덜어줄 수 있는 효과적인 방안 중 하나는 산학협력이다. 학계에서는 챗GPT와 같은 종류의 인공지능이 ‘데이터-중심’ 모델이라는 점에서 메모리 반도체의 속도 향상이 중요하다는 연구를 이미 발표한 바 있다. 아울러 추천 시스템이나 증강 검색 등 차세대 메모리를 활용할 만한 다양한 ‘데이터-중심’ 인공지능에 관한 연구도 활발히 이루어지고 있다. 산업체는 이러한 학계의 연구 결과를 토대로 차세대 메모리 개발의 우선순위를 설정하고 역량을 집중할 전략을 세울 수 있을 것이다.


산학협력을 활성화하기 위한 현실적이면서도 효율적인 방안은 전문 인력의 교류이다. 특히, 기업에서 근무하는 전문가가 대학으로 이직해 함께 연구한다면 산학협력의 효과가 커지면서 산업체 요구와 동떨어진 연구가 대학에서 수행되는 경우를 줄일 수 있을 것이다.


산업체 전문가의 대학 이직을 유도하려면 이들이 대학교수처럼 10년 이상 안정적으로 근무할 수 있는 제도적 지원이 필요하다. 예를 들어, 정부가 장기적인 산학협력 과제를 통해 산업체 인력을 지원한다면 많은 산업 전문가가 대학에서 연구에 참여할 수 있을 것이다. 더욱이 차세대 메모리 개발이 중요한 현 시점에서 이러한 산학협력이 강화된다면 우리나라 반도체 산업의 발전에 크게 기여할 것으로 기대된다.


<저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지>