“엔비디아가 곧 AI는 아니다”… 경쟁사들 ‘대항 행보’ 빨라진다

28일(이하 현지 시간) 엔비디아의 2분기 실적 발표를 앞두고 시장은 차세대 인공지능(AI) 칩셋 ‘블랙웰’ 납품 지연 여부와 그 여파에 촉각을 곤두세우고 있다.

AI 열풍의 최대 수혜주로 떠오른 엔비디아는 가파른 상승세를 보이며 2022년 말 이후 시가총액이 약 9배 증가했고 올 6월 사상 최고치를 기록했다. 그러나 이후 7주 동안 주가가 약 30% 급락하며 시총에서 8000억 달러가 증발했다. 엔비디아 주가는 최근 다시 상승 랠리를 펼쳐 6월 최고치에서 약 6% 낮은 수준까지 회복했다. 특히 주요 고객사들이 엔비디아 기반 인프라에 지속적으로 투자하고 있다고 언급하면서 이달에만 10% 가까이 상승했다. 일각에서 엔비디아 실적이 AI 시장의 미래를 좌우할 것이라는 관측이 나오는 가운데 엔비디아의 ‘대항마’를 노리는 경쟁사들의 움직임 역시 갈수록 빨라지고 있다. ‘엔비디아가 곧 AI는 아니다’라는 것이다.

27일 미 캘리포니아주 스탠퍼드대에서 폐막한 반도체 학회 ‘핫칩스(Hot Chips) 2024’에서는 주요 반도체 기업들이 핵심 AI 칩셋의 설계 철학을 깊이 있게 소개하는 자리가 마련됐다. 엔비디아의 대항마로 꼽히는 AMD는 지난해 말 선보여 올 상반기부터 출하 중인 MI300X의 내부 디자인을 상세히 설명했다. 연말 MI325X 출시 일정을 공개한 시점에서 ‘구형 칩셋’을 들고 나섰다는 점이 언뜻 납득되지 않지만 AMD가 최근 49억 달러를 들여 서버 제조사 ZT시스템스를 인수했다는 점을 감안하면 예사롭지 않은 행보다. ZT시스템스가 MI300X 탑재 서버를 마이크로소프트(MS) ‘애저’ 클라우드에 공급하는 업체여서다.

현재 AI 칩셋 수요는 폭발적으로 늘고 있지만 최신 칩셋의 공급은 제한적이다. 상대적으로 수급이 용이한 구형 칩셋 또한 ‘하위 제품군’으로 꾸준히 판매되고 있다. AMD의 MI300X 발표는 ZT시스템스 인수의 시너지를 알리는 동시에 향후 신형 칩셋 탑재 서버 또한 ZT시스템스를 통해 이뤄질 것임을 보여준다.



‘니치마켓(틈새시장)’을 노리는 기업들도 있다. MS는 지난해 말 공개한 자체 제작 AI 칩셋 ‘마이아100’의 세부 디자인을 공개했다. MS는 “애저에서 오픈AI 모델을 가동하는 데 최적화한 디자인 소프트웨어·하드웨어가 수직 통합돼 성능을 최적화할 뿐 아니라 비용도 절감할 수 있다”고 강조했다. 오픈AI를 위해 탄생한 만큼 챗GPT 추론에서는 엔비디아 칩셋보다 가성비에서 우위에 있다는 점을 내세우고 있다. 한국 스타트업 퓨리오사AI도 2세대 칩셋 ‘RNGD(레니게이드)’ 성능 비교표를 처음 선보였다. 백준호 퓨리오사AI 대표는 “RNGD는 초당 11.5의 요청(쿼리)을 처리하는 동안 전력 185W를 사용한 반면 엔비디아 L40S는 초당 12.3의 요청을 처리하며 320W를 소모했다”며 “전성비가 60% 뛰어나다”고 강조했다.



삼성전자와 현대차그룹 등의 투자를 받고 있으며 전설적인 반도체 설계자 짐 켈러가 이끄는 텐스토렌트는 패러다임 전환을 제시했다. 암(ARM)의 대안으로 주목받는 저전력 중앙처리장치(CPU) ‘RISC-V’를 바탕으로 전통적인 CPU, 그래픽처리장치(GPU) 구분에서 탈피한다는 구상이다. 텐스토렌트가 선보인 ‘블랙홀’ 칩셋은 고성능 ‘빅’ CPU 16개와 초저전력 ‘베이비’ 칩 752개, D램이 한데 엮인 구조로 확장도 쉽다. 베이비칩이 GPU의 병렬연산을 대신하도록 해 모든 연산을 한 칩셋에서 처리하는 ‘독립적 AI 컴퓨터’를 구현하겠다는 목표다.