"생성형AI, 보안영역 활용은 시기상조"

챗GPT같은 생성형 인공지능(AI)은 보안 영역에서 주력으로 활용되기 보다는 사용자 전문 지식을 바탕으로 보조 도구로 쓰기에 적합한 수준이라는 분석이 나왔다.

SK쉴더스가 20일 서울 중구 SK텔레콤 타워에서 개최한 ‘상반기 주요 보안 트렌드와 생성형 AI 보안 위협 전망’ 세미나에서 이호석 이큐스트(EQST)랩 담당은 “생성형 AI는 악성코드나 복잡한 코드 로직을 분석하는 데 한계가 있다”면서도 “향후 AI 모델이 발전해서 토큰 수가 늘어 기술적 한계가 해결되거나 환각 등 문제가 해소되면 보안에서 활용도가 높아질 것”이라고 예상했다. EQST는 SK쉴더스 내 화이트 해커 전문가 그룹이다.

SK쉴더스는 생성형 AI가 전 산업계로 확대됨에 따라 4가지 보안 분야에도 도입해 활용도를 검증했다. 이 담당은 “AI 활용도는 ‘시나리오 모의해킹’과 ‘시큐어 코딩’에서 각각 60%와 50%로 집계됐다"며 “모의해킹 시나리오를 생성하거나 주요 프로그래밍 언어로 짜여진 코드 분석에서 AI 활용도가 높았다”고 말했다. 다만 ‘모바일 분석’과 ‘악성코드 분석’에서는 각각 30%와 20%의 낮은 활용도를 기록했다. 이에 대해 이 담당은 “모바일 취약점 탐색은 실시간으로 해야 하는데 AI가 아직 복잡하고 긴 코드는 이해하지 못했다”고 설명했다.



보안 영역에서는 기술적 한계를 보이지만 AI를 활용한 서비스가 늘어남에 따라 새로운 보안 위협으로 떠오르고 있다. 이 담당은 “챗GPT와 한번 대화한 내용은 서버에 저장된다"며 “서버가 해킹되면 정보 유출로 이어질 수 있다”고 말했다. 이어 “AI 기술이 고도화되면서 사람의 영상이나 목소리와 합성하는 딥페이크·딥보이스 기술이 악용되고 있다”며 “모방을 이용한 피싱 공격이 늘고 피싱 모델 패턴도 정교해지는 추세”라고 덧붙였다.



SK쉴더스에 따르면 올 상반기에 사이버 공격 비율은 전년 대비 49% 증가한 것으로 나타났다. 기업 기밀이나 개인 금융정보를 탈취하는 정보유출 침해사고가 30%로 가장 많았다. SK쉴더스는 올 하반기에 랜섬웨어 공격이 여전하고 북한발 해킹이 늘 것으로 예상했다. 또 확장된 소프트웨어(SW) 공급망 공격이나 SW의 취약점을 악용한 공격 등 다양한 보안 위협도 지속될 것으로 전망했다. 이재우 SK쉴더스 EQST 사업그룹장은 “EQST는 방어 측면에서 생성형 AI를 연구해 날로 고도화되는 AI 공격에 대한 선제적 대책을 제시하겠다”고 말했다.

SK쉴더스는 기업 맞춤형으로 정보통신기술·인프라·개인정보보호 등 보안 컨설팅을 제공하고 있다. 또 최신 침해위협지표(IoC)를 실시간 반영한 MDR(위협 탐지 대응) 서비스로 기업의 사이버 위협 대응 역량 강화에 힘쓰고 있다.