[이달의 과학기술인상]AI 머신러닝으로 반도체 공정속도·해상도 UP

반도체는 인공지능(AI)·스마트폰·로봇·자율주행차·드론·국방기술 등에 두루 쓰이는 4차 산업혁명의 핵심 부품이다. 미국이 중국의 급속한 첨단산업 경쟁력 강화를 막기 위해 제일 먼저 견제에 들어간 것이 반도체다. 특히 AI 세상이 가속화하면서 챗GPT 같은 초거대 AI와 데이터센터·자율주행차·스마트공장이 급성장세를 보이며 AI 반도체 등 미래 반도체가 뜨고 있다. 이런 흐름과 달리 한국의 반도체 산업은 뒷걸음질치고 있다. 한국은행에 따르면 우리 반도체 수출 비중은 지난해 19.3%로 단일 품목 중 가장 컸으나 올 상반기 14.1%까지 쪼그라들며 자동차(15.4%)보다 뒤처졌다. 미중 패권 전쟁의 유탄을 맞은 상황에서 우리 반도체 기술의 경쟁력을 높이는 게 절실하다.

과학기술정보통신부가 주최하고 한국연구재단과 서울경제신문이 공동 주관하는 ‘이달의 과학기술인상’을 받은 신영수(56) KAIST 전기및전자공학부 석좌교수는 AI 기계학습(머신러닝)을 적용해 기존보다 10배 이상 빠르고 해상도가 높은 반도체 포토리소그래피 최적화 기술을 개발한 공로를 인정받았다. 반도체 포토리소그래피는 패턴이 새겨진 마스크에 빛을 비춰 웨이퍼상에 소자를 형성해가는 과정으로 반도체 수율을 결정하는 중요한 공정이다.

웨이퍼에 다각형을 만들기 위해서는 마스크에 그보다 훨씬 복잡한 패턴을 그려 넣어야 하는데 이런 패턴을 찾아가는 과정을 OPC(Optical Proximity Correction)라고 부른다. 기존의 모델 기반 OPC는 마스크 형상을 고치고 시뮬레이션을 통해 웨이퍼 이미지를 확인하는 과정을 반복해야 돼 많은 시간이 소요된다.



신 교수 연구팀은 마스크 형상과 그에 대응하는 웨이퍼 이미지의 집합을 이용해 기계학습 모델을 만들고 그 모델을 이용해 더 빠르고 해상도가 높은 OPC 최적화 기술을 개발했다. 만약 마스크 형상과 그에 대응하는 웨이퍼 이미지의 집합을 대량으로 갖고 있다면 이 집합을 이용해 마치 뇌를 훈련하듯 기계학습 모델을 만들 수 있다는 점에 착안한 것이다.



연구팀은 생성형 AI를 통해 기존 레이아웃 패턴과 구조적으로 유사한 특정을 가졌지만 기존에는 존재하지 않던 레이아웃 패턴을 생성하는 방법도 개발했다. 이렇게 만든 레이아웃 패턴과 기존의 샘플 패턴을 같이 활용해 포토리소그래피 최적화에 적용했을 때 모델 정확도가 높아진다는 것을 확인했다.

이 기술은 반도체 공정을 개선하고 해외 의존도가 높은 OPC 솔루션의 자립도를 향상시켜 국내 반도체 산업 발전에 기여할 것으로 전망된다. 신 교수는 “기존의 반도체 포토리소그래피 연구와 달리 AI 머신러닝을 적용했다는 점에서 차별성이 크다”며 “소수의 외국 회사가 독점하면서 발생하는 라이선스 비용과 기술 개발의 정체 문제를 해결하는 데 이바지하겠다”고 밝혔다.