추론 성능 30배 향상…젠슨 황, 더 강력한 'AI 괴물칩' 내놨다

18일(현지 시간) 미국 캘리포니아주 새너제이 SAP센터에서 역대 최대 규모로 열린 ‘인공지능(AI)개발자콘퍼런스(GTC) 2024’는 엔비디아의 존재감을 유감없이 드러낸 대관식이나 마찬가지였다. 행사장을 찾은 1만여 명의 참관객이 뿜어내는 열기에 젠슨 황 엔비디아 최고경영자(CEO)조차 “GTC는 콘서트가 아닌 개발자 행사”라는 농담을 건넬 정도였다. 끝없이 이어진 빅테크 창업자들의 축사는 ‘반도체 황제’ 엔비디아의 위상을 짐작하게 했다.

엔비디아는 새너제이에서 열린 연례 개발자 행사 GTC 2024에서 신형 그래픽처리장치(GPU) 칩셋 ‘블랙웰’을 공개했다. 황 CEO는 “블랙웰 GPU는 우리 시대를 정의하고 있는 생성형 AI 산업혁명을 구동하는 엔진이 될 것”이라며 자신감을 피력했다.

게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원에 입학한 데이비드 해럴드 블랙웰의 이름에서 따왔다. 블랙웰은 역대 GPU 중 최대 크기다. 내부적으로 2개 GPU를 하나로 합친 형태로 트랜지스터 수가 H100 호퍼의 800억 개에서 2080억 개로 2.6배 이상 늘었다. 블랙웰의 기본 칩셋인 B100은 H100의 5배에 달하는 최대 40페타플롭스(PetaFlops·1초당 부동소수점 처리)의 연산 속도를 자랑한다. ‘괴물 AI 칩’의 등장이라는 평가가 나오는 배경이다.

엔비디아는 단순한 칩셋 판매를 넘어서 AI 슈퍼컴퓨터의 플랫폼 기업으로 거듭나겠다는 각오도 밝혔다. 이를 실현할 비밀 병기는 B100보다 전력 소모, 처리량이 더 높은 B200 2개와 그레이스 중앙처리장치(CPU)를 결합한 GB200 플랫폼이다. GB200은 36개가 뭉친 NVL72로 완성된다. NVL72는 칩셋 간 초당 1.8테라바이트 양방향 처리를 지원하는 신형 5세대 NV 링크를 이용해 병목현상을 크게 줄여 개별 칩셋을 더한 것 이상의 성능을 낸다. 황 CEO는 “NVL72의 내부 연결망을 오가는 데이터 양이 전체 인터넷 트래픽만큼 크다”고 강조했다.



NVL72 플랫폼은 같은 숫자의 H100 대비 AI 학습 속도는 4배, 추론 속도 30배, 전력 대 성능비는 25배나 높일 수 있다. 이를 기반으로 10조 개 이상 파라미터(AI 연산 단위) 성능의 생성형 AI도 학습·처리가 가능해진다는 설명이다. 현재 오픈AI GPT-4는 약 1조 7000억 파라미터 수준의 성능을 지닌 것으로 알려져 있다. 엔비디아 블랙웰에 힘입어 GPT-4를 뛰어넘는 차세대 생성형 AI 개발에 더욱 속도가 붙을 뿐만 아니라 궁극적으로는 인간을 뛰어넘는 일반인공지능(AGI) 구현이 한 걸음 더 가까워졌다는 분석이 나온다.

황 CEO는 엔비디아 칩셋이 단순한 AI 가속기가 아니라는 점도 분명히 했다. 황 CEO는 “엔비디아의 영혼은 가상세계를 시뮬레이션하는 데 있다”며 현실세계를 모방한 디지털 트윈을 바탕으로 제조업 설계는 물론 로봇, 기상 예측, 신약 개발을 혁신하겠다는 포부를 밝혔다. 한층 개선된 엔비디아인퍼런스마이크로서비스(NIM) 클라우드로 지구 전체 기상 상황을 시뮬레이션하는 ‘어스-2’ 등 과학 연구를 도와 플랫폼 기업으로 나아가겠다는 전략도 제시했다.



한편 황 CEO의 키노트에는 1만 1000명 이상의 인파가 몰렸다. 키노트 종료 이후 인근 새너제이컨벤션센터에서 열린 전시에도 단일 기업 행사라고 믿기 어려울 정도로 사람이 붐벼 관람이 힘들 정도였다. 생성형 AI 열풍이 불기 전 신형 GPU 공개 행사에 머물던 GTC를 돌아보면 천양지차다. 마이클 델 델테크놀로지스 창업자 등 빅테크 거물도 2시간에 이르는 황 CEO의 키노트를 빠짐없이 들었다.

일론 머스크 테슬라 CEO, 마크 저커버그 메타 CEO, 사티아 나델라 마이크로소프트(MS) CEO, 순다 피차이 구글 CEO, 샘 올트먼 오픈AI CEO 등 빅테크 거물들의 축사도 이어졌다. “모두가 엔비디아를 화나게 할까 두려워 한다. 테크 업계에서 가장 강력한 인물들도 황 CEO에게 정말, 정말 정중하게 행동하고 있다”는 피에르 페라구 뉴스트리트리서치 애널리스트의 말이 새삼 피부로 와 닿았다.

일각에서는 블랙웰의 성능 개선 폭이 미묘해 AI 생태계를 뒤집기에는 역부족이라는 평가도 나온다. 칩셋 크기를 키웠을 뿐 트랜지스터당 성능 개선 폭은 25%가량에 불과하다는 이유에서다. 칩셋이 커진 만큼 한 웨이퍼(반도체 원판)에서 생산 가능한 최종 반도체 수가 줄고 줄어든 칩셋 수와 성능 개선 폭을 감안할 때 현재 AI 생태계가 원하는 연산력의 총량 증가에는 분명한 한계가 있다는 것이다.

엔비디아가 공급할 수 있는 칩셋의 절대적 물량이 감소할 수밖에 없고 블랙웰이 연말에야 시장에 출하된다는 점도 AI 반도체 공급 개선 전망을 어둡게 한다. 이런 우려 탓에 이날 뉴욕 증시에서 엔비디아 주가는 장 마감 후 1.77% 하락하기도 했다.