GPU 정복한 엔비디아, 네트워크·SW로 'AI 생태계' 넓힌다

1등을 절대 내주지 않을 기세다. 생성형 인공지능(AI) 열풍 속에 AI 컴퓨팅 시장을 주도하는 엔비디아가 AI 생태계 여러 영역에 걸친 신제품들을 쏟아냈다.

주로 그래픽카드 신제품에 힘을 줬던 예년과 달리 올해는 엔터프라이즈용 GPU, 고성능 AI 컴퓨팅을 지원하기 위한 네트워크 기술 등에 상당한 힘을 줬다. 여기에 자사 대규모언어모델(LLM)을 이용한 소프트웨어까지 공개했다. 글로벌 압도적 1위를 자랑하는 GPU 기술에 더해 네트워킹·SW에 걸쳐 관련 제품까지 추가하며 엔비디아의 입지가 한층 강화될 것이라는 전망이 나온다.



젠슨 황 엔비디아 창업자 겸 최고경영자(CEO)는 29일(현지 시간) 대만 타이베이 난강전시관에서 열린 ‘컴퓨텍스 2023’에서 “엔비디아는 ‘AI의 심장’과 같은 제품을 생산하고 있다”며 다양한 제품 라인업을 공개했다.

우선 슈퍼컴퓨팅 플랫폼 ‘DGX A100’를 잇는 신제품 ‘DGX GH200’은 256개의 GH200 슈퍼칩을 탑재해 1초에 100경 번을 계산할 수 있다. 해당 제품 라인에서 처음으로 그래픽카드 상호 연결 기술인 ‘NV링크’ 스위치 시스템이 탑재된 것도 특징이다. 이를 통해 연결된 모든 GPU들이 하나의 거대한 GPU처럼 작동하며 폭발적인 성능을 낸다. 황 대표는 “DGX GH200은 이번 행사에서 발표된 엔비디아의 최신 GPU와 CPU를 사용하는 시스템 중 정점을 이루는 제품”이라며 “앞으로 수백만 명의 사용자에게 생성 AI와 가속화된 컴퓨팅을 제공하게 될 것”이라고 말했다.



이례적으로 AI 네트워킹 신기술을 공개한 점도 이목을 끌었다. 엔비디아는 이날 세계 최초로 고성능 AI 전용 이더넷 ‘스펙트럼-X’를 선보였다. 이번 플랫폼을 활용하면 이더넷 대역 폭을 최대한 활용할 수 있게 돼 기존 방식 대비 2배의 성능 개선이 가능하다.

이번 키노트는 AI 엔터프라이즈 제품에 힘을 주고 있는 엔비디아의 최근 방향을 잘 보여줬다는 평가도 나온다. 엔비디아는 그동안 게이밍 그래픽카드 등 개인용 컴퓨팅 제품에 힘을 줬지만 가상자산 채굴 열풍에 이어 생성형 AI 열풍까지 불어닥치며 AI는 확실히 기업용 제품을 중심으로 라인업을 꾸리는 모습이다.

엔비디아가 자체 생성형 AI 기술을 기반으로 게임 개발 분야에서 새 SW를 선보인 점도 참관객들의 눈길을 끌었다. ‘ACE(Avatar Cloud Engine)’라는 해당 서비스는 엔비디아의 자체 LLM ‘네모(NeMo)’와 문자를 음성으로 바꿔주는 자체 TTS 모델 ‘리바(Riva)’가 적용됐다. 이들 기술을 통해 자연스러운 게임 캐릭터 제작이 가능해질 것으로 전망된다. 황 대표는 이날 이렇게 만들어진 캐릭터의 게임 내 영상을 재생하며 “방금 본 영상에 미리 정해진 대본은 없고 단지 캐릭터에 게임에 대한 배경과 이야기를 학습시켰을 뿐”이라며 “인공지능과 대규모 언어 모델을 활용하면 사용자가 건네는 말의 의미를 이해하고 합리적인 방식으로 소통하는 캐릭터를 손쉽게 만들 수 있다”고 설명했다.



당분간 AI 시장에서 엔비디아의 입지가 탄탄할 것이라는 분석이 지배적이다. 엔비디아는 2000년대 중반 AI 개발 플랫폼인 ‘쿠다’를 내놓았으며 현재 대부분의 AI 관련 알고리즘이 쿠다를 기반으로 작성돼 있다. 황 대표는 이날 간담회에서 “쿠다 플랫폼 다운로드 수가 4000만 개를 넘어섰다”며 압도적인 ‘쿠다 생태계’의 위력을 자랑하기도 했다.

문제는 자체 AI 반도체를 개발하는 업체가 늘고 있다는 점이다. 구글은 물론 메타·아마존 등 글로벌 빅테크 들이 잇따라 자체 AI용 반도체를 개발 중이다. 이들 반도체는 범용성이 떨어지지만 개별 기업의 데이터 처리나 분석에 최적화돼 그만큼 효율이 높다. 국내에서도 퓨리오사AI·리벨리온 등이 추론형 AI 반도체를 개발해 엔비디아의 아성에 도전한다는 계획이다. 생성형 AI에 사용되는 반도체의 80% 가량은 머신러닝 용인데 해당 부분에서는 엔비디아의 경쟁력이 압도적인 만큼 20%가량의 시장을 차지하는 추론형 반도체 시장에서 성과를 내겠다는 게 이들 기업의 복안이다. 장기적으로는 엔비디아 ‘원톱’ 체제가 흔들릴 수 있는 셈이다.

한 업계 관계자는 “엔비디아는 하드웨어 분야뿐 아니라 인프라와 연계되는 개발 플랫폼, 생태계에 오랜 시간 공들여왔다”며 “하지만 AI 인프라 비용 절감에 대한 각 기업들의 수요가 늘고 있고 그중에는 또 다른 개발 생태계를 만들 수 있는 잠재력 있는 기업들도 많다는 점에서 엔비디아의 절대적 우위가 언제까지 유지될 지 장담하기 어렵다”고 전했다.