작년 11월 1일~2일 양일간 영국 정부가 주최한 ‘AI Safety Summit’(AI 안전성 정상회의)가 전세계 28개국 장관들이 참석한 가운데 개최됐다. 회의 종료 후 발표된 9개 항목에 걸친 ‘공동선언문’에서는 인공지능 모델의 치명적인 피해 가능성을 우려하며, 인공지능 생애주기 전반에 걸쳐 안전을 보장하기 위한 안전 시험 시스템, 평가 및 기타 적절한 조치가 필요함을 강조했다.

올해 들어 ‘AI 윤리’에 대한 이슈가 ‘AI의 안전성’으로 집중되고 있는 가운데, IAAE 국제인공지능윤리협회(이사장 전창배)는 AI 데이터 및 모델 품질 검증 전문 기업인 테스트웍스(대표 윤석원)와 ‘AI 안전성 확보를 위한 검증 체계 구축 협력 MOU’를 체결했다고 30일 밝혔다.

이번 업무 협약을 통해 양 기관은 AI 모델과 AI 데이터셋의 신뢰성, 안전성 확보를 위한 연구 개발을 추진하고, 특히 최근 수요가 급증하고 있는 생성형 AI 학습용 데이터의 공정성 확보와 정제(filtering)를 위한 체계 구축에 협력키로 했다. 이를 기반으로 국내 기업들을 대상으로 한 AI 신뢰성, 안전성에 대한 인증 및 컨설팅 제공에도 협력할 계획이다.

테스트웍스는 창업 초기부터 쌓아온 SW 검증 전문성과 AI 전문성을 결합하여, AI 도입에서 데이터 수집,가공,검수,모델개발,검증에 이르는 전 과정에서 고객의 AI 서비스 상용화를 지원하는 AI 데이터 구축 및 검증 솔루션 전문 기업이다. 특히, 테스트웍스는 KOLAS(한국인정기구) 국제공인시험기관 인정을 획득하여, 소프트웨어 테스트 시험성적의 전문성 및 기술력을 국제적으로 입증 받았으며, 장애인 고용을 통한 사회적 가치 창출 역량을 인정받아 온 소셜 벤처기업이다.

윤석원 테스트웍스 대표는 "다년간의 AI 데이터 및 소프트웨어 검증 노하우를 보유하고 있으며 신뢰할 수 있는 인공지능을 만들고 활용하기 위해 수년간 연구 개발을 지속해오고 있다. 국제인공지능윤리협회와 함께 AI가 우리 사회에 선한 영향력을 미칠 수 있도록 앞장서 나아가겠다”라고 말했다.

전창배 IAAE 이사장은 “테스트웍스는 장애인들을 AI 데이터 라벨러라는 전문가로 육성하고 고용을 창출하고 있는 사회적 기업으로 이미 이 분야에서 AI 윤리를 잘 지키고 실천해왔다. 올해 세계적으로 LLM과 같은 AI 모델들이 쏟아져 나오면서 AI 윤리와 안전성이 더욱 중요시 되는 만큼, 양 기관이 협력하여 AI 모델과 데이터에 대한 안전성 검증 체계를 구축하고 국내 AI 기업들을 지원해 나가겠다”고 강조했다.