북한이 인공지능(AI) 등 첨단기술을 활용해 사이버 공격 수위를 높일 수 있다는 우려가 커지고 있다. 아직 생성형 AI를 활용한 사이버 공격은 초기 단계지만 총선 이후 어수선한 상황이나 11월 미국 대통령 선거를 앞두고 딥페이크나 가짜뉴스 유포 시도가 잇따를 수 있다는 예측도 나온다. 김정은 북한 국무위원장이 지난해 말 “내년 초 남한에 큰 파장을 불러일으킬 방안을 마련하라”고 지시한 것으로 확인돼 안보 당국의 긴장감은 커지고 있다. 김 위원장의 지시와 관심을 반영해 북한이 사이버 공격 목표를 고른 만큼 총선 이후 국론 분열과 정부 흔들기를 위한 본격적인 위협에 나설 수 있기 때문이다. 국가정보원도 최근 북한 해커가 생성형 AI를 활용해 해킹 대상을 물색하고 해킹에 필요한 기술을 검색하는 정황을 포착했다.

실제로 북한은 사이버 공격에 AI를 활용하기 시작했다. 마이크로소프트와 오픈AI는 지난달 북한 등이 초거대 AI를 해킹에 활용했다고 밝혔다. 특히 북한 해킹 조직 ‘김수키’의 다른 이름인 ‘에메랄드 슬릿’은 생성형 AI를 악용해 특정인을 목표로 하는 ‘스피어 피싱’ 메일 초안을 작성했다. AI를 악용해 북한에 대해 전문 지식을 가진 사람을 대상으로 피싱 메일을 생성했다. 또 AI를 활용해 북한을 연구하는 외국 싱크탱크를 조사한 것으로 나타났다. 구글클라우드의 사이버 보안 부문인 맨디언트는 지난해 8월 “북한 김수키로 알려진 APT43이 사이버 첩보 활동에 널리 사용할 수 있는 대규모언어모델(LLM)에 관심을 보인다는 것을 확인했다”며 “LLM으로 작업을 수행할 가능성이 있어 보이지만 그 목적은 아직 분명하지 않다”고 경고했다.

북한이 AI 기술로 만든 ‘딥페이크’ 콘텐츠로 사회 혼란을 일으킬 것이라는 관측도 일각에서 제기된다. 북한 배후 조직은 아닌 것으로 일단 분석되지만 1월 말 유튜브 채널 ‘빅빅폴리틱’에 김 위원장이 웃는 표정으로 ‘핵 단추’가 연상되는 빨간 버튼을 누르는 영상이 게시된 바 있다.

‘딥페이크’ 콘텐츠지만 안보 이슈에 민감한 유권자들에게 영향을 미칠 가능성이 있다. 구독자 626만 명의 유튜브 채널 ‘그냥 푸틴’에는 블라디미르 푸틴 러시아 대통령이 김 위원장과 영상통화를 하는 딥페이크 영상이 업로드됐다. ‘패러디’나 ‘밈’이라는 설명이 붙기는 했지만 언제든 AI가 유력 인물을 등장시켜 실제가 아닌 허위 정보를 유포할 수 있음을 시사한다.

국제사회도 북한의 기술 악용 가능성을 경계하고 있다. 앤 뉴버거 미국 국가안보회의(NSC) 사이버·신기술 담당 부보좌관은 지난달 워싱턴포스트(WP)가 주최한 행사에서 “북한은 역설적으로 신기술을 가장 창의적이고 혁신적으로 활용하는 국가 중 하나”라고 지적했다.

AI를 악용한 가짜뉴스는 국가 시스템을 흔들 수 있어 다각도로 대비가 필요하다. 허위 정보로 형성된 여론을 기반으로 잘못된 의사 결정이 내려지면 국익에 막대한 타격을 입을 수 있기 때문이다. 윤석열 대통령도 이를 우려하며 지난달 ‘제3차 민주주의 정상회의’의 ‘기술, 선거 및 가짜뉴스’를 주제로 한 2세션 모두발언에서 “특정 세력들이 조직적으로 제작하고 배포하는 가짜뉴스는 단순히 잘못된 정보를 전파하는 것을 넘어 사회적 갈등과 분열을 야기한다”며 “AI와 디지털 기술을 악용해 가짜뉴스를 만들어내는 세력에 대항해 이를 찾아내고 퇴치하는 AI, 디지털 시스템을 함께 만들어야 한다”고 강조했다. 윤 대통령은 “악의적인 가짜뉴스와 거짓 정보가 그래도 멈추지 않는다면 이에 공동 대응하는 강력하고도 체계적인 대응 홍보전을 펴야 한다”고 말했다.

유엔 회원국들은 지난달 21일(현지 시간) 미국 뉴욕 유엔본부에서 총회를 열고 AI의 안전한 사용에 관한 국제적인 합의를 시급히 마련해야 한다는 내용의 결의를 만장일치로 채택했다. 린다 토머스그린필드 주유엔 미국대사는 총회 연설에서 “딥페이크와 같은 AI가 생성한 콘텐츠는 정치적 논쟁의 진실성을 훼손할 가능성이 있다”고 했다.