14일(현지 시간) 미국 시애틀에 있는 마이크로소프트(MS) 레드먼드캠퍼스. 스튜디오B 빌딩의 4801호에 들어서자 흰 가운을 입은 직원 20여 명이 테스트 기계 앞에서 실험에 열중하는 모습이었다. 수년간 MS가 자체 인공지능(AI) 칩 설계 프로젝트의 기지로 삼은 곳으로 이 장소가 외부인에게 공개된 것은 이번이 처음이다. 국내 미디어 중에는 서울경제신문이 유일하게 참가했다.

‘사진 촬영 금지’ 팻말을 지나 안으로 들어가자마자 한 뼘 너비 구 모양의 웨이퍼가 쌓여 있었다. 웨이퍼 테스트를 기다리는 장비들로 일단 테스트를 시작하면 장비 내로 최대 3만개에 달하는 미세한 선들이 내려와 웨이퍼 내부의 결함 여부를 확인한다. 이 단계의 실험을 마친 웨이퍼들은 ‘다이(개별 단위 칩)’ 단위로 조각난 채 패키지 테스터기로 이동한다. 두 번째 단계인 패키지 테스트는 적정 온도와 습도 등 까다로운 환경 안에서 테스트가 진행된다. 칩의 상태를 로봇이 확인하는데 임의의 숫자가 수기로 적힌 칩들이 왼쪽에서 오른쪽으로 이동하고 있었다. 군데군데 빠진 숫자는 다음 단계로 넘어가지 못한 칩들이다. 각각 15분이 소요되는 테스트를 거치고 나면 마지막 코스는 시스템 레벨 테스트다. 이 단계에서는 각각의 AI 칩이 실제 AI 모델을 가동하는 방식으로 시뮬레이션이 진행된다. AI 칩을 갖고 GPT 3.5모델, 코파일럿 등을 실제로 돌려보면서 성능이나 효율을 체크한다. 한 시간이 소요되는 이 단계까지 무사히 통과한 칩들만 최종 생산 제품이 될 수 있다는 설명이다.

이 프로젝트를 이끄는 반도체 전문가 라니 볼커(사진) MS 클라우드 하드웨어 시스템·인프라 부문 부사장은 “우리는 소프트웨어 회사였지만 이제는 시스템 회사”라며 “단순히 각 단계 중 하나가 아닌 전체 시스템 레벨을 보고 최적화를 이룬다는 점에서 큰 의미가 있다”고 강조했다. 그는 인텔에서 27년을 몸담은 베테랑이다. 볼커 부사장은 “클라우드 고객들이 저마다 갖고 있는 니즈에 맞게 선택권을 주고 싶다”며 “이 같은 관점에서 대규모언어모델(LLM)을 기반으로 한 작업에 최적화할 수 있는 AI 칩 개발에 주력했다”고 강조했다. 이를 테면 데이터센터 칩인 코발트100의 경우 전력 활용의 유연성을 대폭 늘렸다. 이용자가 대규모 작업을 처리하지 않을 때는 전력 활용을 줄이는 방식으로 조절이 가능하다. 그는 “이미 MS는 다음 세대 제품 설계·개발을 진행하고 있다”며 장기적으로 라인업을 확장해나갈 것이라고 강조했다.