인공지능(AI)도 관습의 힘은 무시할 수 없다? 세계 최대 전자상거래 기업 아마존이 2014년부터 비밀리에 AI을 활용한 채용(리크루팅) 프로그램을 개발해 왔는데 중도에 여성차별 문제가 불거지면서 이를 자체 폐기한 것으로 알려졌다.
10일(현지시간) 로이터통신에 따르면 아마존은 영국 에든버러에 엔지니어링팀을 꾸리고 AI 채용 프로그램을 개발해왔다. 500대의 컴퓨터가 구직 희망자의 지원서를 약 5만개 키워드로 분석하는 프로그램이다. 아마존의 한 관계자는 로이터에 “100장의 원서를 프로그램에 집어넣으면 순식간에 최상의 조건을 갖춘 5명의 서류를 토해낸다. 당신은 그 사람들을 채용하기만 하면 되는 것”이라고 말했다.
머신러닝에 기반한 이 프로그램을 완성하느라 아마존 엔지니어들이 한창 열을 올리고 있을 때 돌발 이슈가 불거졌다. 리크루팅 AI가 여성을 좋아하지 않는다는 것이었다. 개발이 1년쯤 진행됐을 때 이 프로그램은 경력 10년 이상의 남성 지원자 서류만 샅샅이 뒤져내 고용해야 할 후보로 제시하기 시작했다.
AI는 기존 축적된 데이터를 이용하는 데 지금까지 IT 기업 지원자 중에는 남성이 압도적으로 많기 때문에 서류 분류도 ‘남성 편향적’으로 나왔다는 것이다. 심지어 ‘여성’이라는 단어가 들어가거나 동호회 활동에 ‘여성 체스 클럽’ 같은 어구가 포함돼 있으면 채용 대상에서 배제하기도 했다. 여대를 나온 2명의 지원자 원서도 채용 대상 목록에서 빠진 것으로 나타났다.
아마존 엔지니어들은 ‘AI의 여성차별적 인식’을 바로잡아 보려고 시스템을 점검해봤지만 뚜렷한 해결책을 찾지 못했다. 결국 아마존은 지난해 초 AI 리크루팅 프로젝트를 자체적으로 폐기했다고 로이터통신은 전했다.
