대통령선거전이 한창이다. 선거철만 되면 부동표의 향방이나 공략이 주요 관심사로 떠오른다. 요지부동으로 표현되는 고정표와 달리 막판까지 표심이 정해지지 않는 부동표에 대해서는 어느 선거진영이건 끝까지 애를 태운다. 부동표를 공략하는 방법론 중 하나가 인지언어학자 조지 레이코프가 자신의 저서 ‘코끼리는 생각하지 마’에서 대중화한 ‘프레임 선점’이다. 프레임이란 생각의 틀이라 할 수 있으며 자신이 의도한 특정 프레임을 선점함으로써 상대방의 노력을 무위로 만들어 유리한 고지를 점할 수 있다. 코끼리를 생각하지 말라는 주문이 코끼리를 떠올리게 하는 것과 같은 이치다.
특정 용어가 특정한 프레임을 작동시키는 이유를 이해하려면 미시적 관점에서 학습원리를 살펴볼 필요가 있다. 사람의 두뇌에는 약 1,000억개의 뇌세포가 있다. 뇌세포는 1,000여개의 다른 세포와 연결되고 각 연결구역에는 연결강도를 조절하는 시냅스가 있다. 사람마다 차이가 있지만 학습하게 되면 시냅스 값들이 학습이 의도한 대로 움직이게 되며 반복할수록 효과가 좋아진다. 세포체(소마)는 시냅스를 거쳐 여러 세포에서 들어오는 자극의 합이 임계값을 넘으면 그 자극을 다음 세포로 전달하고 그렇지 않은 경우는 무시하게 된다. 학습에 의해 시냅스 값들이 특정 패턴으로 바뀐다 해도 그 값들이 너무 작거나 입력이 미미하면 학습효과를 전혀 거둘 수 없게 된다.
결국 수학적 견지에서 학습이란 두뇌에 있는 엄청난 수의 시냅스와 세포체의 복합함수 작용이라 할 수 있다. 한 세포와 특정 세포 간 연결강도가 너무 강하면 다른 세포로부터 들어오는 입력이 무시된다. 특정 사상이나 신념이 아주 강할 때 그것에 반하는 어떤 이야기도 무시되는 것은 바로 이 원리 때문이다. 또 사전에 학습된 강도(프레임)에 의해 입력에 대한 반응이 결정되거나 반복 학습에 의한 시냅스들의 강도 변화 수준에 따라 반응이 결정된다.
인공지능의 학습에는 학습 데이터와 기댓값의 쌍을 이용한 지도학습법을 주로 사용한다. 즉 학습 데이터를 인가하여 기댓값이 출력될 수 있도록 인공지능의 시냅스 값들을 조금씩 조절하는 방식으로 학습시킨다. 처음 학습 데이터를 인가하면 보통은 기댓값과 다른 출력이 나오는데 그 기댓값과 출력의 오차를 이용하여 인공지능의 시냅스 값을 조금 변경시킨다. 그 후 다시 학습을 시키면 이전보다 오차가 작아진 출력이 나오며 다시 시냅스를 바꿔주는 과정을 오차가 특정 수준 이하로 작아질 때까지 반복하면 점차 시냅스 값들이 학습 의도대로 수렴하게 된다. 물론 이 과정은 컴퓨터가 수행하기 때문에 사람은 결과가 나올 때까지 기다리면 된다.
이러한 인공지능 학습에서 데이터가 차지하는 비중은 엄청나다. 가령 숫자만 학습시키고 문자 인식을 기대할 수 없듯이 좋은 결과를 기대한다면 양질의 학습 데이터는 필수적이다. 사람도 특정 개념에 반복 노출되면 편향적으로 되듯이 인공지능도 의도하였든 의도하지 않았든 편향된 데이터로 학습시키면 편향적이게 된다. 지난해 3월 마이크로소프트(MS)가 발표한 챗봇 테이가 일부 사용자의 악의적인 학습으로 인종차별적인 발언을 해 불과 하루 만에 막을 내리는 일이 있었다. 구글에서 ‘baby’로 영상 검색을 하면 주로 백인 아기들의 사진이 검색 상단을 차지한다. 이런 결과를 이용하여 학습시킨다면 설계자가 의도하지 않았을지라도 편향된 결과가 나올 수 있다.
인공지능은 점차 보조수단에서 결정수단으로 진화할 것으로 전망된다. 특히 공적인 분야에 적용할 경우 데이터와 알고리즘의 편향성 여부를 면밀히 검토해야 한다. 편중되지 않은 다양한 데이터를 확보하려는 노력과 편향성 검증을 위한 방법론 개발이 필요하며 인공지능 연구를 선도하는 연구소나 기업 간의 방법론을 공유하는 것도 중요하다. 아직은 블랙박스와 같은 인공지능의 결정 메커니즘을 정확하게 규명하고 무엇이 결정의 주요 원인인지를 밝히는 연구가 필요하다.
이석중 라온피플 대표
