지난해 2월 구글의 생성형 인공지능(AI) ‘바드’는 테스트 시연에서 “제임스웹 우주망원경이 태양계 밖의 행성을 최초로 찍는 데 사용됐다”고 소개했다. 전문가가 아니면 믿었을 이 답변은 거짓이었다. 태양계 밖 행성 촬영에 처음 사용된 것은 2004년 유럽남방천문대가 설치한 초거대 망원경이었다. 이날 구글의 장중 주가는 9% 급락했다.
2개월 후 구글의 최고경영자(CEO) 순다르 피차이는 미국 방송 ‘60분’과의 인터뷰에서 “바드 등 AI 챗봇에서 발생하는 환각(hallucination)의 원인과 해결책을 누구도 제시하지 못하고 있다”며 “앞으로 AI 개발자들의 최우선 임무가 될 것”이라고 말했다.
AI가 잘못된 사실이나 이미지를 실제처럼 보여주는 ‘환각 현상’. 피차이 CEO의 지적대로 명확한 원인은 드러나지 않았다. 다만 AI가 학습하는 데이터의 부족·오류·편향 등에 따라 발생하는 것으로 추측할 뿐이다.
사전적으로 ‘지각되거나 실체적 대상이 존재하지 않는 심적 현상’을 일컫는 환각은 AI가 아닌 인간이 겪어온 고통이고 그 강도는 더욱 거세지고 있다. 의사의 치료가 필요한 병리적 현상과는 다른 얘기다.
지난주 한국사회및성격심리학회는 회원 대상 설문 조사를 거쳐 2024년 한국 사회가 가장 경계해야 할 사회심리 현상으로 ‘확증 편향(confirmation bias)’을 꼽았다. ‘자신이 보고 싶은 것만 보고, 믿고 싶은 것만 믿는’ 이 심리적 태도가 심각한 환각을 만들어낸다.
피습을 당한 야당 대표를 두고 극우 유튜버들은 자작극에 이어 나무젓가락까지 등장시켰다. 여당 비대위원장이 한 소년과 찍은 사진을 놓고 야 성향 유튜버들은 아동학대로 몰아갔다. 이들 유튜브의 구독자 수는 수십만 명에서 많게는 100만 명에 이른다.
편향과 왜곡으로 가득한 가짜뉴스에 오히려 군중들은 열광한다. 보다 자극적이고 보다 선정적이어야 “사이다 같다”고 통쾌해하며 아낌없이 ‘슈퍼챗’을 쏜다. 그렇게 중독된 사람들에게 이해나 화해, 타협과 통합 따위는 없다. 내 주장과 신념에 동의하지 않는 모든 이들이 적이 되고 악마가 돼 결국에는 제거해야 마땅한 혐오의 대상이 된다.
문득 정신을 차리면 ‘내가 미쳤나 봐’를 연발하며 후회할 법한 말과 행동이 일상이 돼버린 우리. 왜 그렇게 된 걸까. 독일의 저널리스트 카롤린 엠케는 “바라보는 대상의 다른 면을 상상하는 일이 불가능해졌기 때문”이라고 말한다. ‘그런 매체를 통해서만 정보를 얻는 사람들, 거기에서 제시하는 여과된 시선으로만 세상과 사람들을 바라보는 이들에게는 늘 고정된 동일한 방식의 연상만이 각인된다. 상상력이 훼손된 것이다(혐오사회·2017년).’
혐오 사회를 부추기는 데 언론 역시 책임을 피할 수 없다. 이달 12일 문화예술인들은 ‘고(故) 이선균 배우의 죽음에 대한 성명서’에서 “충분한 취재나 확인 절차 없이 이슈화에만 급급한 일부 유튜버를 포함한 황색 언론들, 이른바 ‘사이버 렉카’의 병폐에 대해 우리는 언제까지 침묵해야 하느냐”고 질타했다.
그리고 혐오 사회의 정점에 정권과 정치가 있다. 혐오 정치의 타깃이 됐던 야당 대표는 10일 퇴원하며 첫 일성으로 “상대를 죽여 없애야 하는 전쟁 같은 이 정치를 이제는 종식해야 한다”고 말했지만 누구도 믿지 않는다. 그들의 세력화에 이미 ‘혐오’가 중요한 기제로 작동하고 있음을 안다. 지지율 30%대를 벗어나지 못하는 대통령이 취임 후 지금까지 되풀이한 주요 발언은 “적대적 반국가 단체와의 협치 불가” “패거리 카르텔 타파” 등 진영을 가르는 말이었다.
지난주 미국 라스베이거스에서 막을 내린 세계 최대 전자·정보기술(IT) 전시회 ‘CES’에서 확인했듯이 AI는 이미 사람들의 일상 곳곳에 스며들었다. 그래서 결국 인류의 기술은 엉뚱한 대답을 내놓는 AI의 ‘환각 현상’을 제거할 것이다.
그렇다면 진화하는 기술로 제거할 수 없는, 오히려 기술의 고도화가 확증 편향을 심화시켜 발생하는 인간의 환각과 상대에 대한 혐오는 어떻게 해소할 것인가. 지금부터라도 구성원의 다양성과 각각의 다름을 인정하고 이해하는 그 소통의 과정에서 새로운 해법을 찾는 노력을 해야 하지 않을까. 머지않은 미래에 환각을 극복한 AI가 여전히 환각에 신음하는 인간을 바라보며 비웃고 있을지 모를 일이다.
