미국 IBM이 삼성전자(005930)와 손잡고 인공지능(AI) 가속기 시장에 진출한다. IBM은 2015년 반도체 생산 부문에서 완전히 철수했지만 은행 등 금융계에서 쓰이는 메인프레임(고성능 대형 컴퓨터) 시장에서는 여전히 1위 자리를 차지하고 있다. 삼성과 함께 처음으로 공개한 AI 칩도 메인프레임에 탑재되는 제품이다. 엔비디아가 장악하고 있는 AI 가속기 시장에 구글·메타·IBM 등 빅테크들의 도전이 거세지고 있다는 평가가 나온다.

IBM은 26일(현지 시간) 미 스탠퍼드대에서 열린 반도체 학회 ‘핫칩스 2024’에서 AI 가속기 ‘스파이어’와 중앙처리장치(CPU) ‘텔럼2’를 각각 공개했다.

행사장에 모인 엔지니어들은 최근 설계 트렌드를 뒤집은 IBM 제품에 열광적인 반응을 보였다. 최근 스포트라이트를 받았던 엔비디아·오픈AI에 이어 삼성과 손잡은 IBM이 AI 가속기 무기를 들고 경쟁 후보군으로 등장했기 때문이다.

텔럼2는 기존 인텔 등이 생산하는 CPU와 달리 고성능·속도에 올인한 칩셋이다. 칩셋 면적은 600㎟에 달하는데 CPU와 외부를 초고속으로 연결하는 캐시메모리 면적이 40% 늘어 칩셋 절반 이상을 차지한다. 신경망처리장치(NPU) 대신 데이터 입출력을 전담하는 데이터처리장치(DPU) 개념을 도입했다. 넉넉한 캐시메모리와 DPU를 바탕으로 칩 외부와 소통하는 데이터 대역폭을 30% 늘린 게 특징이다. 한마디로 데이터 연산 속도가 더욱 빨라진 셈이다.

스파이어는 IBM이 선보인 최초의 독립 AI 가속기로 초당 300조 개 연산이 가능하다. 생성형 AI 추론 서비스에 특화돼 있다. 전력 효율이 높은 128GB(기가바이트) 저전력D램(LPDDR5) 메모리가 장착된다.

다만 이번 AI 칩은 IBM 자체 메인프레임에만 탑재되기 때문에 전 세계 고객들에게 판매되는 엔비디아의 그래픽칩(GPU)과 직접 경쟁하는 관계는 아니다. 다만 IBM 칩의 효용이 검증되면 앞으로 시장을 넓혀갈 가능성이 있다는 게 전문가들의 진단이다. 이 제품 생산에 삼성 파운드리 5㎚(나노미터·10억분의 1m) 공정이 적용되는 만큼 향후 삼성에 대한 빅테크 발주가 늘어나는 계기가 될 수도 있다.

이번 제품이 과거 개인용컴퓨터(PC)의 제왕으로 불렸던 IBM의 영광을 되찾아줄지도 주목된다. 2013년 983억 달러(약 131조 원)에 달했던 IBM의 매출은 지난해 618억 달러(약 82조 원)로 10년 새 37% 감소했다. 보안과 안전성이 생명인 금융·공공 시장 분야에서 점유율 70%로 자존심을 지키고 있다. 이날 공개한 제품도 고성능 CPU와 넉넉한 메모리로 연산 안전성에 중점을 뒀다.

삼성전자 5나노 공정에 대한 신뢰감도 드러냈다. IBM은 “삼성전자 파운드리의 고성능 고효율 공정에서 제조돼 CPU 면적을 20% 줄이고 전력 소모도 15% 줄일 수 있었다”고 설명했다.

반도체 업계의 한 관계자는 “AI 도입으로 CPU·GPU 설계 패러다임 전환이 일어나고 있다”며 “삼성이 새로운 구조의 칩셋 제조 노하우를 성공적으로 쌓아 포트폴리오를 구축하는 효과를 기대할 수 있다”고 말했다.