인공지능(AI) 제품과 서비스의 위험성을 분석하고 신뢰성 확보 조치를 다한 민간 기업에게 주어지는 ‘AI 신뢰성 인증’ 사례가 처음으로 나왔다. 정부는 이를 계기로 국내 AI의 신뢰성 강화와 산업 발전에 속도를 낼 방침이다.
과학기술정보통신부와 한국정보통신기술협회(TTA)는 6일 AI 기업 마크애니와 엔플럭스에 AI 신뢰성 인증을 각각 부여했다고 6일 밝혔다. AI 신뢰성 인증은 민간 인증 전문기관인 TTA가 AI 기술을 활용해 민간 제품과 서비스의 위험요인을 분석하고 신뢰성 확보를 위한 사업자의 요구사항 준수 여부를 평가하는 제도다.
마크애니의 ‘AI 영상 검색 및 대상물 이동경로 추적 솔루션’은 실종자 인식 정확도 오류와 특정 인종‧성별‧연령에 대한 편향 등 AI 모델 오류가 위험요소로 식별돼 이에 맞춘 편향 제거, 신뢰성 테스트 계획 수립, 거버넌스 구성 등을 검증받았다. 엔플럭스의 ‘AI 융합 지뢰탐지 모듈’은 지표투과레이더(GPR) 이미지를 판독해 지뢰 여부, 지뢰 종류 판단 등 고수준의 분석기능을 제공하는 시스템이다. 지뢰탐지 정확성 오류와 지뢰탐지 결과의 설명 가능성 부재 등이 위험요소로 판단돼 역시 대응책을 검증받았다.
TTA는 컨설팅 등을 통해 기업의 AI 신뢰성 개선 작업을 돕는다. 과기정통부는 AI 신뢰성 인증제도를 본격 확산시켜 국내 AI 산업 기반을 강화해나갈 계획이다.
