초거대 AI 요람 만든 NHN클라우드…노트북 50만대 규모 연산 1초 만에 '뚝딱'

21일 찾은 광주광역시 북구 첨단3지구 내 ‘NHN(181710) 국가 인공지능(AI) 데이터센터’. 연면적 3200㎡, 지상 2층 규모의 건물은 산업단지나 신도시에서 흔히 볼 수 있는 지식산업센터와 같은 외양이지만 내부로 들어서니 국내 최초의 AI 특화 데이터센터답게 최첨단 기술력이 집약돼 있음을 실감할 수 있었다. 건물 2층에 위치한 전산실에 들어서니 굉음과 열기가 쏟아져나왔다. 전산실 내 260개 랙(선반)에 촘촘히 꽂힌 그래픽처리장치(GPU)의 열기를 식히기 위해 팬이 쉴 새 없이 돌아가고 있었다.

이곳의 GPU는 현재 웃돈을 주고서라도 구하기 어렵다는 엔비디아의 ‘H100’이다. 랙당 H100 8개가 들어가며 현재 국가AI데이터센터에만 1000여개가 넘는 H100이 탑재됐다. H100은 현재 1개 당 가격이 4만달러를 호가하지만 국가AI데이터센터를 운영하는 NHN클라우드는 가격이 폭등하기 전에 저렴한 비용으로 다량의 GPU를 확보할 수 있었다. 김동훈 NHN클라우드 대표는 “국내 기업 중 가장 많은 H100을 보유하고 있을 것”이라며 “통상 국내 기업 대비 3배정도 더 많다고 보면 된다”고 설명했다. 국가AI데이터센터는 엔비디아뿐 아니라 그래프코어·사피온의 AI 칩도 갖췄다.

수많은 GPU로 구성된 이 시설에서 수행할 수 있는 연산처리 횟수는 88.5페타플롭스(PF)로, 1초에 8경 8500조 번의 계산을 할 수 있다. 눈 깜빡할 새 업무용 노트북 약 50만 대 규모의 연산 처리가 가능하다. 저장 용량도 107페타바이트(PB)로, 1테라바이트(TB) 하드디스크 10만 7000개에 해당한다.



국가AI데이터센터의 또 다른 특징은 ‘랙당 전력밀도’에 있다. 수많은 GPU를 사용하기 위해서는 엄청난 전력이 필요한데 NHN클라우드는 이와 같은 문제를 해결하기 위해 전력밀도를 높였다. 실제로 국내 데이터센터의 평균 전력밀도가 4.5킬로와트(㎾)라면 국가AI데이터센터는 15㎾로 3배가량 더 높다. H100이 통상적으로 요구하는 조건(10㎾)도 웃도는 수준이다. 윤용수 NHN클라우드 데이터센터엔지니어링실 기술리더(이사)는 “국가AI데이터센터는 모든 것이 GPU 중심으로 설계됐다”며 “GPU 가동을 위해 필요한 전력량·풍량이 30~50배까지 늘어나기 때문에 건축·공조·전기 등 모든 영역을 GPU에 맞췄다”고 말했다.

재난 대비와 에너지 절감을 위한 고민도 빼놓지 않았다. 국가AI데이터센터는 전력 공급이 끊기는 긴급 상황에서도 무정전 전원장치(USP)로 15분을 견딜 수 있다. 또 리히터 규모 7.0 지진에도 견디는 내진 설계도 반영했다.



국가AI데이터센터는 현재 470여개 기업과 기관이 사용하고 있으며 향후 고객층 확대도 기대된다. NHN클라우드는 네이버클라우드와 솔트룩스 등 다양한 AI 기술 기업과 협력 관계를 맺고 AI 동맹(얼라이언스)를 구축해 생태계를 확장해 나간다는 계획이다. 아울러 NHN클라우드는 국가AI데이터센터를 핵심 기지로 삼아 ‘풀스택 AI 클라우드서비스제공사(CSP)’로 거듭난다는 전략이다. 풀스택은 클라우드 인프라부터 서비스형소프트웨어(SaaS)까지 모두 제공하는 형태를 뜻한다.

특히 국가AI데이터센터는 'NHN클라우드 2.0’ 전략의 전초기지가 될 전망이다. AI 추론·학습에 필수적인 GPU를 대거 갖춘 만큼 국가AI데이터센터를 기반으로 AI 인프라 산업의 주도권을 잡겠다는 목표다. 김 대표는 “지난해 목표로 했던 매출 2000억 원은 공공 분야 정보기술(IT) 예산이 당초 예상보다 줄어들면서 달성하지 못했다”면서 “올해는 기업들의 IT 투자 기조가 개선될 것으로 기대돼 연간 2000억 원 이상의 매출을 달성할 수 있을 것"이라고 자신했다. 이어 “2026년 8000억 원 매출 달성이라는 중장기 목표도 변함 없다”고 덧붙였다.