북한 해커 조직이 초거대 인공지능(AI)을 사이버 공격에 활용한 것으로 드러났다. 마이크로소프트(MS)와 오픈AI는 이같은 AI 악용 사례를 적발하고 접근을 차단했다.

MS는 14일(현지시간) 사이버 위협 정보 요약 보고서 ‘사이버 시그널 6판’을 공개했다고 16일 밝혔다.

MS는 이번 보고서를 통해 국가배후 해커 조직의 위협에서 AI 플랫폼을 보호하는 방법을 집중 조명했다.

MS는 오픈AI와 협력을 통해 북한의 해커 조직 ‘에메랄드 슬릿’과 러시아군 연계 조직 포레스트 블리자드, 이란 연계 조직 크림슨 샌드스톰, 중국 연계 조직 차콜 타이푼과 사몬 타이픈 등의 위협 행위를 추적했다. 분석 결과 이들 집단은 대형언어모델(LLM)을 활용한 사이버 공격을 강화하고 있었다. LLM을 활용한 심각한 공격은 발견되지 않았지만 MS는 AI 플랫폼과 사용자를 보호하기 위해 접근을 차단했다.

MS는 국가 차원의 지능형 지속 공격(APTs), 지능형 지속 공격자(APMs), AI 플랫폼 및 API를 사용하는 사이버 범죄 조직의 위협을 완화할 수 있는 원칙을 발표했다. 이 원칙에는 악의적인 위협 행위자에 대한 조치와 타 AI 서비스 공급자에 대한 접근 알림, 다른 이해관계자와의 협력 등이 포함된다.

MS는 AI를 활용해 사이버 위협을 방어하는 방법도 공유했다. AI가 네트워크 리소스 또는 트래픽 사용 방식의 변화를 파악해 위협을 탐지하거나 위험한 로그인 및 비정상적인 동작을 인지하는 방법을 소개했다. 또 위험한 로그인 및 멀웨어를 탐지하는 머신러닝 모델, 제로 트러스트 등도 설명했다. MS는 연구개발 단체인 ‘마이터’와도 협업을 이어오며 사이버 위협 대응책을 마련하고 있다.·

바수 자칼 MS 보안 부문 기업 부사장은 “AI의 미래를 확보하기 위해 우리는 새로운 역량과 위험을 동시에 가져오는 기술의 양면성을 인정해야 한다”며 “AI는 단순한 도구가 아닌 새로운 사이버 보안 패러다임이 될 수 있으며, AI를 통해 정교한 사이버 위협을 방어하고 역동적인 위협 환경에 적응함으로써 안전한 미래를 보장할 수 있을 것”이라고 밝혔다.