제미나이가 생성한 2차 세계대전 당시 나치 독일군의 이미지/출처=X구글의 인공지능(AI) 플랫폼 제미나이(gemini)가 다양성을 지나치게 반영한 정책이 역사적 왜곡을 불러온다는 논란에 휘말리며 이미지 생성 기능을 일시 중단했다. ‘교황을 그려달라’고 하면 유색인종 여성 교황을 그린다거나 2차 세계대전에 참전한 독일군을 동양여성으로 묘사하는 식이다. 구글 측은 다양성에 대한 지침이 오히려 과잉 보정을 초래하는 부분을 빠르게 개선하겠다는 입장이다.
21일(현지시간) 파이낸셜타임스(FT) 등 외신에 따르면 구글의 제미나이 책임자인 잭 크로치크는 “(제미나이의) 인물 이미지 생성 기능에 오류가 발생했다”며 “서비스를 일시 중단하고 이 기능을 더욱 발전시켜 다양한 상황에 적합하도록 개선한 버전을 내놓겠다”고 밝혔다.
제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델이다. 이번 중단은 지난 1일 이미지 생성 기능을 추가한다고 발표한 지 20일 만에 이뤄졌다. 출시 이후부터 소셜미디어(SNS) 등을 통해 다양한 오류가 지적됐기 때문이다. 여성이나 유색인종 이미지를 백인처럼, 반대로 백인은 유색인종처럼 부정확하게 묘사하는 경우가 많았다.
특히 역사적 맥락이 있는 인물에 대한 잘못된 이미지 생성이 잇따랐다. 바이킹 왕이나 2차 세계대전 나치 독일군처럼 명백히 백인 남성의 이미지가 우선시돼야 하는 순간에도 동양여성이나 유색인종으로 묘사해 ‘역사적 왜곡’ 논란이 일었던 것이다. 구글 측은 “제미나이가 만드는 이미지에 대해 이상적인 인구통계학적 분류를 지정하는 것이 아니라 다양성을 극대화하는 것이 목표”라면서도 “다양성에 대한 지침이 오히려 과잉 보정을 초래할 수 있다”고 설명했다.
구글은 1년 전에도 AI와 관련한 불명예를 안은 바 있다. 지난해 AI를 탑재한 검색엔진 바드를 공식 출시하는 자리에서 바드가 오답을 내놨기 때문이다. 당시 ‘태양계 밖의 행성을 처음 찍은 망원경’을 묻는 질문에 바드는 제임스웹 우주망원경(JWST)이라고 답했지만, 실제는 2004년 유럽남방천문대의 초거대 망원경이었다. 당시 오답으로 구글 주가는 하루에 9% 가까이 폭락하기도 했다.
