“정확한 AI만으론 부족 믿을 수 있는 AI 뜬다”

“인공지능(AI) 기술이 고도화될수록 경쟁의 중심은 ‘얼마나 정확한 모델을 만드느냐’만이 아니라 ‘얼마나 신뢰할 수 있고 통제 가능한 시스템을 만드느냐’로 이동합니다.” ‘설명 가능한 AI(XAI)’ 분야의 세계적 석학인 이수인(사진) 미국 워싱턴대 컴퓨터공학과 교수는 “XAI는 단순한 기술 옵션이 아니라 AI 제품의 신뢰성과 책임성을 결정하는 핵심 인프라”라며 “특히 의료, 금융, 자율 시스템처럼 규제가 강한 영역에서는 설명 가능성 자체가 시장 진입 조건이 될 것”이라고 진단했다. 이 교수는 12일 서울경제신문과의 인터뷰에서 앞으로 기업 간 경쟁에서 XAI 역량이 점점 중요한 차별화 요소가 될 것으로 내다봤다. 단순한 성능 경쟁을 넘어 ‘설명 가능한 시스템을 얼마나 빠르게 제품화할 수 있는가’가 중요한 경쟁 축으로 떠오를 것이라는 설명이다. XAI는 AI 모델의 의사 결정 과정을 인간이 이해할 수 있도록 설명·해석하는 기술이다. AI 모델이 도출한 결과에 대한 근거를 제시해 투명성과 신뢰도를 높여 사용자가 AI의 판단을 믿고 활용할 수 있도록 돕는다. 그는 “AI가 아무리 정확하더라도 그 결과를 사람이 이해하고 신뢰할 수

단독“우린 로보캅 아냐” 제복 공무원의 절규

최근 5년간 경찰·소방 등 ‘ 제복 공무원’ 200명 이상이 스스로 목숨을 끊은 것으로 나타났다. 공동체의 안전망을 지탱하는 이들의 심리적 마지노선이 한계에 다다랐다는 분석이 나온다. 서울경제신문이 12일 채현일 더불어민주당 의원실을 통해 확보한 자료에 따르면 2021년부터 지난해까지 극단적 선택을 한 제복 공무원은 경찰 116명, 소방 81명, 교정 17명, 해양경찰 22명 등 총 236명으로 집계됐다. 7.7일에 1명꼴로 비극이 반복된 셈이다. 올해 들어서도 3월까지 경찰에서만 6명이 숨졌다. 상황은 점점 고착화되고 있다. 스스로 생을 마감하는 제복 공무원은 2021년 49명에서 2022년 52명으로 늘어난 뒤 2023년 41명으로 줄었지만 2024년 48명, 지난해 46명으로 다시 40명대 후반을 기록했다. 전문가들은 임계치에 도달한 마음건강 문제가 주요 배경이라고 지적한다. 경찰청이 2020년부터 2024년까지 재직자의 극단적 선택 원인을 추정한 결과 정신건강 문제가 48건으로 가장 많았다. 이어 가정 불화 44건, 경제적 요인 31건, 직장 문제 31건 등으로 나타났다. 이건수 백석대 경찰행정학과 교수는 “민원 갈