삼성 파운드리 고객사들의 근황 <PFN·IBM편> [강해령의 하이엔드 테크] : 서울경제

정보기술(IT) 시장에 관심 많으신 독자 여러분, 안녕하세요. 지난달 말 미국에서 '핫칩스 2024'라는 행사가 열렸습니다. 핫칩스는 세계적으로 유명한 반도체 설계 고수들이 최신 기술을 공유하는 학회인데요. 학회 자료 곳곳에서 인공지능(AI) 반도체 회사들과 삼성전자 파운드리의 협력 내용이 발견돼 독자님들과 공유하고 싶어서 간략히 소개드리고자 합니다.

저희 매체의 실리콘밸리 특파원인 윤민혁 기자가 핫칩스 현장을 직접 취재하며 얻은 정보와 발표 슬라이드를 토대로 재구성했습니다. TSMC의 고객사에 대한 이야기와 핫칩스에서 발표된 기업들 외의 소식도 2편에서 엮었으니 기대해주세요. 그럼 우선 일본의 AI 유니콘 기업 프리퍼드 네트웍스(PFN)부터 보시겠습니다.

◇PFN, 삼성 2나노로 AI 학습용 칩을 만든다고?=PFN은 2014년 설립된 일본의 가장 핫한 AI 유니콘 스타트업입니다. 올 2월에 국내 반도체 업계를 아주 핫하게 달군 업체이기도 합니다. 서울경제의 '[단독] 日 AI유니콘 PFN '삼성의 2나노' 택했다' 라는 보도 때문이었죠. PFN이 차세대인 2나노 칩 제조를 TSMC가 아닌 삼성 파운드리에 맡긴다는 내용이었습니다.

PFN의 자체 AI 칩 로드맵. 세번째 AI 학습 칩을 삼성 2나노 공정(Samsung SF2)으로 생산한다고 소개하고 있습니다. 자료출처=PFN 핫칩스 2024 자료

PFN은 핫칩스 2024 자료에서 삼성과의 협력을 공식적으로 발표했습니다. TSMC의 7나노 공정으로 만든 'MN-코어2'의 후속작부터는 삼성에서 만든다는 설명인데요. PFN 측은 "차세대 AI 학습용 'MN-코어'는 삼성의 2나노(SF2)로 만든다"며 "차세대 칩의 최대(peak) 성능은 기존의 10배 이상, 애플리케이션 성능은 30배 이상 향상된다"고 말했습니다. PFN이 삼성 파운드리와 어떤 칩을 만드는지, 또 어떤 성능을 기대하고 있는지를 간략하게나마 공개한 적은 처음입니다. 아, 장표를 보시면 추론 성능을 기존보다 20배 올린 새로운 추론용 칩을 개발하고 있다고도 발표했는데요. 이 부분에는 구체적으로 삼성이나 TSMC 등 파운드리 업체를 언급하지는 않았습니다.

PFN은 8월부터 공급 시작한 MN-코어2 칩이 엔비디아 A100과 같은 TSMC 7나노 공정으로 만들었지만 전성비가 훨씬 좋고, 엔비디아와 AMD의 플래그십 칩 격인 H100, MI300X보다 연산능력은 약간 부족해도 전력과 칩 크기 면에서 상당히 유리하다는 주장을 하고 있습니다. 이 기조가 2나노 씬(Scene)에서도 이어질지 주목됩니다. 자료출처=PFN 핫칩스 2024 발표자료

PFN의 발표 내용에는 '전성비' 칩을 만들어서 자사 AI 서버에 장착하겠다는 방향이 잘 보입니다. 가장 최근 양산을 시작한 MN-코어2는 칩의 크기가 550㎟인데요. FP16 기준 최대 연산 성능은 393테라플롭스(TF), 열 설계 전력(TDP)는 330W입니다. 엔비디아의 H100·AMD의 MI300X 등 각사의 시그니처 AI 칩보다 연산 성능은 좀 부족해도 전력은 거의 절반 수준인데다 칩 크기도 훨씬 작고요.

동일한 TSMC 7나노 공정으로 만든 엔비디아 A100 칩보다는 전력·성능·칩 크기에서 다 앞섭니다. 한마디로 "우리는 전력 덜 먹으면서 성능도 보장되는데 제조 비용도 아낄 수 있는 AI 칩 만들었어요!"라고 강조한거죠.

삼성 파운드리 역시 메모리-파운드리-패키징으로 이어지는 '원스톱' 솔루션으로 공정 비용 절감을 상당히 강조하고 있는데요. 과연 삼성 파운드리가 PFN의 개발 철학을 만족시킬 수 있는 공정을 제공할 수 있을 것인지 지켜봐야 할 포인트입니다.

◇IBM,삼성 5나노로 첫 자체 AI칩 양산=미국 IBM도 삼성 파운드리를 활용한다고 발표했습니다. IBM은 한때 세계 PC 시장을 호령하던 회사인데요. 지금은 그 기세가 많이 죽었지만 메인프레임 분야에서 강세입니다. 메인프레임은 초대형·고성능 컴퓨터인데요. 전세계 금융거래의 70%가 IBM의 메인프레임으로 이뤄질만큼 관련 시장에서 아주 강력한 영향력을 자랑한다고 하죠.

언뜻 보면 냉장고같지만 미국 IBM이 만드는 초대형 고급 컴퓨팅 시스템인 메인 프레임의 모습입니다. 여기에 IBM의 자체 AI 칩이자 삼성 파운드리에서 만드는 텔럼Ⅱ와 스파이어가 탑재됩니다. 사진제공=IBM

IBM의 텔럼 Ⅱ와 스파이어. 자료출처=IBM 핫칩스 2024 자료

IBM은 AI 연산이 극대화된 하드웨어가 금융 거래의 속도와 보안성을 높여줄 수 있을 거라고 자신하면서, 자사의 새로운 메인프레임용 AI 칩을 핫칩스에서 소개했습니다. 이름하여 '텔럼(Telum) Ⅱ'와 '스파이어(Spyre)' 입니다.

IBM은 텔럼 Ⅱ를 5나노 공정으로 만들었더니 코어 속도가 올라가고, 칩 면적과 전력이 전작 대비 개선됐다고 설명했습니다. 자료출처=IBM 핫칩스 2024 발표 슬라이드.

우선 텔럼 Ⅱ는 삼성 5나노 HPP 공정으로 만듭니다. 연산에는 총 430억 개의 트랜지스터가 도입되고요. 삼성 파운드리의 5나노로 만들었더니 다양한 장점이 있다고 설명했습니다. 우선 칩 속에서 일꾼 역할을 하는 코어가 8개 장착돼 있는데요. 각 코어의 속도가 5.5GHz 이상 증가했고요. 전력은 전작인 텔럼 프로세서보다 15% 아끼면서 칩의 크기도 20% 줄였다고 설명했습니다.

스파이어는 260억개 이상의 트랜지스터로 구성된 AI 추론칩입니다. 마치 D램 모듈처럼 PCIe 카드 형태로 만들어진 스파이어는요. 총 32개의 코어로 300TOPS 이상의 AI 추론 성능을 자랑합니다. 스파이어의 주변에는 고대역폭메모리(HBM)가 아닌 LPDDR5 칩이 8개 붙습니다. 128GB의 메모리 용량을 지원한다고 하죠.

IBM은 이 칩을 시중에 팔지 않고 자신들의 메인프레임용으로 활용한다고 합니다. 엔비디아나 AMD처럼 양산 물량이 아주 많지는 않겠지만 말이죠. 삼성이 '빅테크'인 IBM 칩을 생산한 경험으로 파운드리 영업에 더욱 박차를 가할 수 있는 기회를 잡았다는 점에서 의미가 있습니다.

자, 1편은 여러분들이 조금 생소하실 수 있는 PFN·IBM과 삼성 파운드리의 반도체 협력에 대해 함께 살펴봤습니다. 2편에서는 삼성전자 시스템LSI 사업부에 대한 이야기와 메타·텐스토렌트, 우리나라의 퓨리오사AI의 핫칩스 발표자료를 짚어보겠습니다. 독자님들, 월요팅입니다 :)