얼마 전까지만 해도 신형 반도체는 연산 속도를 핵심 경쟁 요소로 내세웠다. 미세공정 도입으로 전 세대 혹은 경쟁작보다 빠르다는 점을 내세우던 ‘속도 경쟁’의 시대였다. 그러나 최근 들어 기류가 확 바뀌고 있다. 인공지능(AI) 반도체 신제품 공개 행사에서는 단순한 연산량 경쟁은 후순위로 밀리는 분위기가 확연하다. 대신 전력 대비 성능을 의미하는 ‘전성비’와 구매 비용을 포함한 ‘가성비’가 전면에 등장하고 있다. 막대한 AI 인프라 투자 비용과 지속적인 AI 서비스 운영 비용이 업계 화두로 떠오르며 단순 성능보다는 ‘가성비’가 핵심 경쟁력으로 부상한 것이다.

4일부터 대만 타이베이에서 열리고 있는 아시아 최대 컴퓨팅·정보기술(IT) 전시회 ‘컴퓨텍스 2024’에서 발표된 신형 중앙처리장치(CPU)·그래픽처리장치(GPU)는 모두 ‘비용 절감’을 내세웠다는 점이 특징이다. 전성비를 나타내는 와트당 처리량은 기본이고 서버랙(rack)당 연산량으로 ‘면적당 성능’을 소개하고 더 나아가 구매 가격이 저렴하다는 점을 노골적으로 내세우고 있다.

CPU 시장 최강자이자 GPU 시장 추격자인 인텔의 발표가 단적인 예다. 팻 겔싱어 인텔 최고경영자(CEO)는 자체 GPU인 가우디2·가우디3의 구체적인 가격까지 공개하며 AI 가속기 시장 선두주자인 엔비디아의 경쟁작 대비 저렴하다는 점을 차별성으로 내세웠다. 8개 GPU가 하나로 묶인 ‘표준 AI’ 키트 기준 가격을 비교할 때 엔비디아 동급 제품 대비 가우디2는 3분의 1, 가우디3는 3분의 2 비용이면 구매할 수 있다는 점을 적극 알린 것이다. 특히 전력소모량이 적다는 점을 소개하는 데도 신경썼다. 가우디3 성능을 요약한 장표에는 중앙에 ‘딥러닝 학습에서 엔비디아 H100 대비 전성비가 2.3배’라는 점이 강조됐다.

인텔은 올 3분기 출시할 데이터센터용 CPU ‘제온6(코드명 시에라포레스트)’를 소개하며 성능 지표에 앞서 서버랙당 성능이 3배라는 점을 내세웠다. CPU 연산을 담당하는 코어가 더 작고 빨라졌을 뿐만 아니라 전성비가 2.6배 늘어나 같은 공간에서 기존 대비 3배의 성능을 낼 수 있다는 것이다. AI 인프라 투자가 급증하며 데이터센터 확장을 위한 부동산 구매·건설·유지비 부담이 늘어나고 있다는 점을 노린 전략으로 읽힌다. 이는 젠슨 황 엔비디아 CEO의 “데이터센터 인프라 비용과 전력·인건비·부동산 등을 감안할 때 가장 높은 성능이 가장 낮은 비용인 시대”라는 콘퍼런스콜 발언과도 맞닿아 있다. 면적당 성능이 높아야 비용 경쟁력을 확보할 수 있어서다.

CPU·GPU 시장 2인자인 AMD 발표도 비용 효율에 방점을 찍고 있다. AMD가 연말 출시하겠다고 밝힌 젠5 기반 차세대 서버용 CPU ‘튜린’은 최대 192개 코어를 탑재했으나 소비전력은 360W로 추정된다. 2022년 11월 선보였던 젠4 기반 ‘제노아’ CPU가 절반인 96개 코어를 지녔음에도 소비전력은 400W에 달했다는 점을 감안하면 코어 수가 2배 늘어났음에도 전력 소모는 줄면서 전성비가 두 배 이상 개선된 셈이다.

AMD가 깜짝 공개한 AI 가속기 MI325X도 생산 측면에서 가성비를 살린 제품이다. AMD는 새로운 칩셋을 설계하는 대신 기존 MI300X의 GPU를 유지하고 기존 HBM3를 HBM3E로 업그레이드하며 메모리 용량은 기존 192GB에서 288GB(기가바이트)로 늘렸다. 상대적으로 수급이 용이해 저렴하게 확보할 수 있는 삼성전자(005930) HBM3E를 대용량 탑재해 별다른 노력 없이도 성능 개선을 이뤄낸 셈이다. AI 가속기 구매자인 데이터센터 입장에서도 손해볼 게 없는 ‘똑똑한 전략’이다. 기존 서버의 물리적·소프트웨어적 구조 변경 없이 MI300X 대신 MI325X를 적용할 수 있어서다.

모바일AP 시장 지배자인 ARM과 퀄컴이 보인 자신감의 배경도 전성비에 있다. 르네 하스 ARM CEO는 컴퓨텍스 2024 현장에서 로이터와 만나 “2029년까지 마이크로소프트(MS) 윈도우 PC 시장에서 ARM 점유율이 50%를 넘어설 것”이라고 자신했다. AI 연산을 PC에서 처리하는 AI PC 시대가 도래하며 절대 성능은 낮아도 전력소모량이 적은 ARM이 ‘대세’가 될 수 있다는 의미다. 크리스티아누 아몬 퀄컴 CEO는 “스냅드래곤 X 엘리트 기반 윈도우 노트북은 배터리 수명이 기존 대비 2배로 일부 AI 기능에서는 전력효율이 100배 이상”이라고 강조하기도 했다.

메모리 시장도 상황은 비슷하다. HBM이 주목받는 이유 중 하나는 기존 D램 대비 높은 전성비 때문이다. 마이크론은 올 2월 HBM3E 양산 소식을 알리며 “삼성전자·SK하이닉스(000660) 대비 전력소비가 30% 적어 데이터센터 운영비를 절감할 수 있다”고 경쟁사를 직설적으로 언급하기도 했다. 마이크론 8단 HBM3E는 엔비디아 H200에 탑재된다.