나델라 '비밀병기' AI칩 꺼내들자 환호…"1050억개 소자 장착"

“칩의 다양성을 확보해 마이크로소프트(MS) 코파일럿을 비롯해 전 세계의 가장 강력한 생성형 인공지능(AI) 모델에 이르기까지 컴퓨팅 파워를 공급하는 역할을 할 것입니다.” (사티아 나델라 MS 최고경영자(CEO))

15일(현지 시간) 미국 시애틀에 있는 MS 레드먼드캠퍼스에서 차로 20분 떨어져 있는 시애틀컨벤션센터. 오전 8시가 채 되지 않아 정문으로 인파가 쏟아져 들어왔다. 올 한 해 생성형AI 열풍을 이끌고 있는 MS가 연 개발자 행사 ‘이그나이트 2023’에 참석한 4500여 명의 개발자, 파트너사 관계자들이다.

오전 9시 트레이드마크인 무채색의 니트와 검은 바지를 입은 나델라 CEO가 무대에 나타나 입을 떼기 직전 일순 정적이 흘렀다. 이후 나델라 CEO가 손바닥에 쏙 들어가는 크기의 AI 칩을 쥔 팔을 들어 올리자 정적은 환호로 바뀌었다. MS가 자체적으로 처음 설계·제작한 AI 가속기 ‘마이아(Maia)100’을 공개하는 순간이었다. 그의 옆에는 2m 높이의 거대한 데이터센터 랙이 서 있었다. 랙 내부 설계 역시 ‘메이드 인 MS’로 내부의 데이터센터 칩부터 서버, 냉각 시스템까지 MS가 클라우드 서비스인 애저의 최적화를 위해 구상했다.

나델라 CEO는 “MS는 전 세계에 60곳 넘는 데이터 리전을 통해 포괄적인 인프라를 제공하고 있다”며 “전 세계의 컴퓨팅 파워가 된다는 것은 MS가 서로 다른 인프라를 아우르는 최고의 시스템 회사가 돼야 한다는 것을 의미한다”고 힘주어 말했다. 1975년 창립 이래 50년 가까이 소프트웨어 회사였던 MS가 본격적으로 시스템 회사로서 거듭난다는 의지를 재확인한 것이다.



마이아100은 대규모언어모델(LLM)의 훈련과 추론에 특화된 칩으로, TSMC의 5㎚(나노미터·10억분의 1m) 공정으로 제작됐다. 1050억 개에 달하는 트랜지스터를 내장해 엔비디아의 AI 가속기 H100과 견줄 만하다. 이 때문에 MS가 칩 공급망에서 독자적인 노선을 확보할 뿐 아니라 장기적으로 엔비디아와 경쟁할 것이라는 전망도 나오고 있다.

특히 칩 설계 초반부터 챗GPT 개발사인 오픈AI와 협력했다. 샘 올트먼 오픈AI CEO는 “MS와 파트너십을 맺은 초창기부터 애저 AI 인프라를 함께 디자인했다”며 “AI 모델을 구동하는 데 필요한 모든 레이어와 훈련에 대한 요구를 반영했다”고 강조했다. 이어 그는 “마이아는 모델들을 훈련시키고 고객들에게 더 저렴한 가격에 제공하는 길을 닦아줄 것”이라고 강조했다.

하지만 MS는 엔비디아와의 경쟁 구도를 내세우기보다는 엔비디아와 AMD의 최신 AI 칩을 아우르고 자체 칩으로 고객에게 선택의 유연성을 제공할 수 있다는 점을 강조했다. 엔비디아가 내년 2분기 출시하는 AI 칩 H200 역시 애저 서비스에 적용된다. 이날 깜짝 손님으로는 젠슨 황 엔비디아 창업자가 등장해 굳건한 파트너십을 재확인했다. 황 창업자는 “MS와 엔비디아의 관계는 거대한 파트너십 그 자체”라며 “우리가 함께 가장 정교한 컴퓨터를 만들고 생태계에 깊은 변화를 만들어내고 있다”고 강조했다.

엔비디아는 동시에 첫 번째 자체 제작 데이터센터 칩인 코발트100도 공개했다. 128코어를 구현하며 영국 칩 설계 업체 암(ARM)의 설계도를 기반으로 제작됐다. 나델라 CEO는 “이미 MS 데이터센터에 이를 탑재해 애저 팀즈 서비스에 활용 중인데 서비스 성능이 비약적으로 개선됐다”고 언급했다. 이날 MS는 AI 챗봇 ‘빙챗’을 개편해 ‘코파일럿’이라는 새로운 브랜드로 선보였다. 애초 한 시간가량으로 예정됐던 키노트는 코파일럿 관련 수십여 개의 업데이트로 한 시간가량 더 이어졌다. 누구나 자체 데이터를 갖고 있다면 이를 바탕으로 AI 어시스턴트가 대답을 하거나 특정 정보들을 요약해 엑셀 시트나 MS 워드 표를 만들어준다. 특히 코파일럿 스튜디오를 통해 나만의 데이터를 쉽게 통합할 수 있도록 했다. 이를 테면 세일즈포스 솔루션을 마케팅 툴로 활용하고 있는 이용자가 코파일럿 스튜디오에 세일즈포스 플랫폼상 데이터까지 통합해 더 종합적인 판단을 내릴 수 있게 했다. 기존에 산발적으로 있던 이용자의 데이터를 모두 통합해 저마다 AI 어시스턴트를 확보할 수 있다는 것이다.

이를 두고 현장에서 만난 제임스 샌더스 CCS인사이트 수석애널리스트는 “올 2월에 빙챗을 처음 내놓은 뒤 빠르게 제품마다 AI를 탑재하고 모든 데이터를 통합해 인사이트를 얻을 수 있는 코파일럿 기능까지 내놓았다”며 “이번 발표를 통해 MS가 AI를 선도하는 기업으로서 얼마나 많은 투자를 하고 있는지를 보여줬다”고 짚었다.