"AI, 소수 플레이어가 주도…개발 경쟁서 소외땐 국가안보 위협" [CES2024]

윤송이 엔씨소프트 사장이 인공지능(AI) 분야 선진국들이 이해관계에 따라 장벽을 세울 수 있다고 경고했다. 특히 AI 주도권 보유 여부에 따라 국가 안보 차원에서 ‘게임 체인저’ 역할을 할 수 있어 우리도 AI 모델 개발 경쟁에서 소외되지 말아야 한다고 조언했다.

윤 사장은 9일(현지 시간) 미국 라스베이거스에서 열린 ‘서울 이노베이션 포럼 2024’에서 ‘AI 혁명과 대한민국의 미래’를 주제로 기조연설을 했다.

미국이 중국에 대한 반도체 수출제한을 확대한 사례를 들며 “많은 데이터가 필요한 AI 경쟁에서 자원을 많이 확보한 기업이 유리한 고지를 선점한다는 데는 이견이 없을 것”이라며 “AI 산업도 각국의 이해관계를 위해 기술 공유가 제한될 수 있다”고 내다봤다.

AI 기술은 우리 생활에 빠르게 침투하면서 이미 보편화가 되고 있다. 다만 선진국과 빅테크 기업 같은 소수의 플레이어가 주도하는 시장이 되면 데이터 편향이라는 부작용이 불거질 수 있다.



윤 사장은 챗GPT가 안중근 의사를 테러리스트라고 지칭하고 독도를 분쟁 지역이라고 답한 사례를 들며 “AI가 아무리 거대한 인구를 바탕으로 모은 데이터로 구축된다고 하더라도 그 데이터에서 차지하는 비중이 적은 소수 집단의 정보는 모델에 제대로 반영되기 어렵다”고 지적했다. 해당 모델에 대한 접근 권한이 없다면 그 결과를 받아들여야만 하는 상황에 처하게 돼 AI 모델 개발을 위해 더 빠르게 움직여야 한다는 것이다. 현재 AI 모델은 서구권에서 생성된 데이터를 주로 반영하고 있다.

데이터의 편향성은 국가 안보 문제로 이어지기도 한다. 딥페이크(특정 인물의 얼굴 등을 영상에 합성) 같은 기술이 가지고 올 수 있는 사회적 혼란도 리스크로 꼽았다.



AI의 도입은 거스를 수 없는 시대의 흐름이다. 윤 사장은 “지난 30년간 구글·메타·넷플릭스 같은 디지털 네이티브 기반 업체가 산업 발달을 주도했다면 이제는 AI 네이티브 기업이 그 역할을 수행할 시기”라고 예측했다. 이어 “AI 네이티브 기업은 의사 결정과 프로세스 자동화 등 기업 비즈니스가 구동되는 모든 과정을 AI 중심으로 운영함으로써 경쟁이나 우위를 선점할 수 있다”고 덧붙였다. 기존 기업들도 AI를 단순히 자사 제품이나 솔루션에 탑재하는 것을 넘어 비즈니스 전반에 적용하는 체질 변화가 필수라는 얘기다.

산업의 지속 발전을 위해서는 기반 인프라를 안정적으로 조성하는 정부의 역할이 중요하다는 지적도 빼놓지 않았다. 윤 사장은 “챗GPT 등 생성형 AI 분야는 인프라를 구축하고 모델 학습에 필요한 양질의 데이터를 확보하는 데 많은 자본과 시간이 필요한 기술”이라며 “기술 진보에 따른 개인정보 보안 같은 정부 규제의 필요성도 있다”고 했다. 유럽연합(EU)은 세계 최초로 AI 기술을 규제하기 위한 포괄적 법안 도입에 합의했다. 윤 사장은 “기업은 AI에 반영될 수밖에 없는 편견과 고정관념이 부정적인 결과를 초래하지 않도록 자발적으로 AI 시스템의 투명성을 개선하고 편향성을 해소하기 위해 노력할 필요가 있다”고 강조했다.