인공지능(AI)이 사회적 편견까지도 빠른 속도로 학습한다는 연구 결과가 나왔다./연합뉴스인공지능(AI)이 사회적 편견까지도 빠른 속도로 학습한다는 연구 결과가 나왔다.
13일(현지시간) 영국 일간지 가디언은 조애너 브라이슨 영국 배스대 교수 등이 이같은 우려를 담은 논문을 게재했다고 보도했다.
논문에 따르면 인공지능에 접목된 ‘워드 임베딩’(word embedding)을 통해 인공지능이 인간의 편견을 신속하게 학습할 수 있다. 워드 임베딩은 사람이 입력하는 표현이나 형태가 달라도 연관성을 따져 적절히 응답하도록 하는 기술이다. 자주 같이 쓰이는 말을 조사해 이를 토대로 언어를 구성할 수 있게 만드는 것이다.
이를 토대로 사전적 정의를 초월해 문화, 사회적 맥락을 담을 수 있다. 가령 ‘꽃’은 유쾌한 단어, ‘벌레’는 불쾌한 단어와 연관돼 개별 사물에 대한 일반적 견해가 생긴다는 것이다.
실제로 연구진은 인공지능이 ‘여자’를 예술이나 인문계 직업, ‘남자’를 수학이나 이공계 직업과 연결하는 경향을 발견했다. 나아가 유럽계 미국인의 이름을 ‘선물’이나 ‘행복’과 같이 긍정적인 단어와 연결하는 반면 아프리카계 미국인의 이름을 상대적으로 자주 불쾌한 단어와 연결하는 조짐도 확인됐다.
브라이슨 교수는 “인공지능이 우리의 편견을 배울 수 있다”며 “도덕적 제어장치가 없는 인공지능은 위험할 것”이라 내다봤다. 가디언은 일상이 전산에 의존하는 추세가 짙어지면서 사회적 불평등이나 편견이 예측할 수 없는 방식으로 강화되고 있다고 해설했다.
/조은지 인턴기자 ejee@sedaily.com
