한국인공지능윤리협회에 따르면 이번 논란은 정치적 문제로만 볼 것이 아니라 최근 국내외 인터넷ㆍ모바일 기업에서 무분별하게 도입하고 있는 AI 자동화 알고리즘에 대한 근본적인 문제를 살펴봐야 한다는 것. AI 알고리즘을 과도하게 신뢰하며 모든 역할과 책임을 AI에게 돌리는 것이 문제라는 지적이다. 한국인공지능윤리협회는 성명을 통해 “현재 기술 단계에서 AI 알고리즘은 편향된 데이터를 토대로 학습하여 구현될 가능성이 높으며 따라서 AI 알고리즘 자체도 편향될 수밖에 없다. 또한 AI 알고리즘을 설계하는 것은 결국 인간이기 때문에 인간의 편향된 생각이 AI 알고리즘에 그대로 반영될 수 있다”고 밝혔다.
또 “이러한 상황에서 AI 자동화 알고리즘에 얼마든지 윤리적 문제가 제기될 수 있음에도 불구하고, 아무런 검증 없이 과도하게 신뢰하거나 무분별하게 활용하는 것은 문제”이기 때문에 AI 알고리즘의 중립성을 사전과 사후에 판단하는 체계적인 시스템이 필요하며, AI 알고리즘의 편향성을 검증하고 올바르게 지도할 수 있는 중립적 기구의 설치가 반드시 필요하다고 주장했다. 끝으로 AI 기술은 아직 발전 중에 있는 기술로서 현재 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 매우 부족해 정부, 기업, 학계, 연구계, 유관단체 등 모든 관련 주체들은 이러한 AI 윤리 가이드라인을 만들고 적용하는데 적극적으로 협력할 것을 촉구한다고 밝혔다.
이번 성명에 대해 한국인공지능윤리협회 전창배 이사장은 “AI 알고리즘의 중립성은 정부가 판단하면 규제가 될 수 있고, 기업이 스스로를 판단하면 그 자체로 중립적일 수 없다는 문제가 생긴다”며, “AI 알고리즘의 편향성의 검증과 판단은 모든 관련 주체가 논의하되, 비영리단체 등 중립적인 기구가 맡는 것이 올바른 해결책”이라고 강조했다.
[성명 전문]
“AI 자동화 알고리즘의 편항성을 우려하며 검증 시스템 및 검증 중립기구의 도입을 촉구한다”
최근 국회에서 주요 정당 대표 연설 기사의 포털 서비스 메인 노출 관련하여 뉴스 편집 AI 알고리즘의 중립성과 편향성에 대한 논란이 있었다.
관련하여 한국인공지능윤리협회는 인공지능의 윤리 문제 중 AI의 편향성 문제를 지속적으로 제기해 왔으며, 이번 논란을 계기로 다시 한번 AI알고리즘의 편향성에 관한 의견을 아래와 같이 밝히고자 한다.
하나, AI 알고리즘은 현재 기술 단계에서는 중립적일 수가 없다. 현재 기술 수준에서 AI 알고리즘은 편향된 데이터를 토대로 구현될 가능성이 높으며 따라서 AI 알고리즘 자체도 편향될 수 있다. 또한 AI 알고리즘을 설계하는 것은 인간이기 때문에 인간의 편향된 생각이 AI 알고리즘에 반영될 수 있다.
하나, 이렇게 중립적일 수 없는 AI 알고리즘을 검증 과정이나 절차적 가이드라인 없이 무분별하게 활용하고 있는 인터넷 및 모바일 서비스 업체에 우려를 표한다.
하나, 따라서 AI 알고리즘의 중립성을 판단하고 검증할 수 있는 시스템과 검증하고 가이드 할 수 있는 중립적 기구가 절실히 필요하며, 정부와 각 기업은 이러한 기구의 설립과 적용에 적극 협력해야만 한다.
하나, AI 기술은 아직 발전 중에 있는 기술로서 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 부족하다. 정부, 기업, 학계, 연구계, 유관단체 등 모든 관련 주체들은 이러한 AI 윤리 가이드라인을 만들고 적용하는데 적극 협력해야만 한다.
AI 기술은 인간의 편익과 행복을 위한 기술이지만 잘못 개발되거나 사용될 때의 위험성과 역작용이 클 수 있으므로 본 협회를 비롯하여 모든 관련 주체들이 이와 같은 문제를 지속 제기하고 논의하고 합의하는 과정에 적극 함께 해주기를 요청하는 바이다.
2020년 9월 14일
한국인공지능윤리협회
