10달러대 칩으로도 사물 인식 완벽…엔비디아도 찾는 K스타트업

24일(현지 시간) 미국 실리콘밸리 샌타클래라 컨벤션센터에서 열린 인공지능(AI) 엣지 디바이스 분야 최대 전시회 ‘임베디드 비전 서밋’. 전시장에 들어서자마자 크고 작은 부스에 달린 여러 개의 모니터들이 눈에 띄었다. 화면에서는 행사장을 오가는 1000여 명의 인파를 연두색·빨간색 등의 박스 형태로 시시각각 보여주고 있었다. 자율주행용 사람·사물 인식 소프트웨어를 떠올리게 하지만 전시의 핵심은 AI 반도체였다. 이 같은 고성능 이미지 인식 알고리즘이 돌아가게 하는 AI칩 사이즈는 엄지손톱 만한 것부터 명함 크기까지 매우 작았다.

생성형AI 열풍으로 엔비디아의 A100·H100 등 고성능 데이터센터용 칩들이 주목받고 있지만 동시에 빠른 성장세를 기록하는 분야는 데이터센터나 네트워크와 연결된 엣지 기기(디바이스) 반도체다. 글로벌 시장조사기관 얼라이드마켓리서치에 따르면 엣지 AI 프로세서 시장 규모는 2021년 25억 달러 수준이었으나 2030년에는 96억 달러로 예상돼 연평균 성장률(CAGR)이 16%에 달한다.

전시장에는 글로벌 반도체 설계 기업 ARM을 비롯해 퀄컴·소니·아날로그디바이스 등 거물들이 부스를 차렸다. 이 중 가장 눈에 잘 띄는 위치에 커다란 부스를 낸 곳은 우리나라 AI 반도체 기업인 딥엑스다. 이 회사는 명함보다 작은 크기의 AI칩을 이용해 실시간으로 이미지 인식 성능을 높였다. 개당 칩 가격도 10~20달러 수준으로 저렴하다. 특히 성능별로 AI 반도체를 DX-L1, L2, M1, H1 등으로 다양화했다. 가장 고성능인 H1칩으로는 1만여 개의 카메라에서 나오는 객체 인식을 처리할 수 있다. 김녹원 딥엑스 창업자는 “엔비디아 그래픽처리장치(GPU)보다 성능이 뛰어나고 전력 소비량은 9배 정도 낮은 데다 가격 경쟁력도 있다”며 “참가자들이 모두 놀랍다는 반응을 보였다”고 전했다.





매년 참가해 하드웨어 기업들과의 파트너십으로 존재감을 키우는 스타트업도 눈에 띄었다. 엣지 디바이스에 AI 모델을 최적화하는 기술에서 강점을 가진 노타AI는 이날 AI 모델 최적화 플랫폼 ‘넷츠프레소’를 선보였다. AI 모델은 늘어나지만 이를 저마다 다른 하드웨어에 최적화하는 데는 숙련된 엔지니어도 5~6주간의 작업이 필요하다. 그러나 이 회사는 누구나 쉽게 하드웨어를 지정하고 AI 모델을 넣으면 각 하드웨어에 맞게 최적화하는 데 걸리는 시간을 3일로 줄였다. 이에 따라 고성능 컴퓨팅 인프라 기업 엔비디아를 비롯해 글로벌 최대 반도체 설계 기업인 ARM으로부터 협업 요청을 받기도 했다. 채명수 노타AI 창업자는 “AI 열풍으로 AI 모델은 다양화되고 있지만 모두가 고성능 데이터센터용 칩에서 쓸 수 있는 것은 아니다”라며 “AI 모델에 대한 실제 수요는 엣지 디바이스에서 훨씬 많을 수밖에 없어 이를 최적화하는 소프트웨어의 중요성이 커지고 있다”고 전했다.



생성형AI 붐 갓 창업한 스타트업들도 합류했다. 2021년 김나율 씨와 글로벌 자율주행 기술 기업 모빌아이 출신 엔지니어인 벤 아사프가 공동 창업한 클리카는 AI 모델을 95%까지 압축하는 초소형 머신러닝 기술로 주목을 받았다. 김 창업자는 “대규모언어모델(LLM) 역시 크기를 95%까지 압축하는 기술을 개발하고 있다”고 강조했다. 글·사진(실리콘밸리)=정혜진 특파원