[SOH] 인공지능(AI) 챗봇 비서가 생성하는 뉴스 답변의 정보 왜곡 현상이 특정 언어나 국가에 국한되지 않는 전 세계 알고리즘의 '구조적 결함'이라는
국제 공동 조사 결과가 나왔다.
■ 유럽방송연맹(EBU)·BBC 공동 조사… “AI 뉴스 요약, 2건 중 1건 꼴로 오류”
지난해 10월 영국 공영방송 BBC와 유럽방송연맹(EBU), 캐나다 CBC 등 글로벌 주요 공영 방송사 연합 연구팀은 전 세계 대중에게 보급된 대형언어모델(LLM) 기반 AI 비서들을 대상으로 진행한
'뉴스 무결성 및 왜곡 실태 조사' 보고서를 발표했다.
보고서에 따르면, 전 세계 다양한 언어 환경에서 AI 챗봇에게 최신 뉴스에 대한 요약 및 답변을 요구한 결과 샘플 데이터의 절반에 가까운 45~51%의 답변에서 심각한 정보 왜곡 및 오도하는 내용(Significant issues)이 무더기로 적발됐다. 이는 AI 챗봇이 생성한 뉴스 2건 중 1건은 신뢰할 수 없음을 뜻한다.
특히 팩트 인용 과정의 부실함이 고스란히 드러났다. AI 비서가 내놓은 뉴스 요약문의 약 20%는 숫자, 날짜, 핵심 인물 관계 등 기초적인 사실관계(Factual errors)를 완전히 잘못 기술했다. 더욱이 출처를 명시하는 인용구(Quotes)의 13%는 원문 뉴스에 전혀 존재하지 않거나 AI가 문맥에 맞춰 가짜로 조작해 낸 '텍스트 날조' 형태인 것으로 재확인됐다.
■ 챗GPT·퍼플렉시티 검증… 복잡한 시사·소송 뉴스서 오답·환각 속출
이번 글로벌 연합 조사는 오픈AI의 'ChatGPT', 마이크로소프트의 'Copilot', 구글의 'Gemini', 팩트 검색 엔진 'Perplexity' 등을 대상으로 진행됐다. 연구팀은 AI 비서들에게 각국 공영 방송사의 최신 뉴스 웹사이트 접근 권한을 부여하고 시사 질문을 던진 뒤, 전문 저널리스트들과 팩트 체크 인력들을 투입해 답변의 정확성과 불편부당성을 전수 검증했다.
분석 결과, AI 비서들은 엘론 머스크의 출생지나 월드컵 개최국 수처럼 단순하고 고정된 '사실 기반 질문'에는 비교적 높은 정확도를 보였다.
그러나 정보가 빠르게 업데이트되는 실시간 속보, 다수의 인물이 얽혀 있는 복잡한 법적 소송 타임라인, 혹은 사실과 의견의 명확한 구분이 필요한 정치적 쟁점 담론에서는 여지없이 가해자와 피해자를 뒤바꾸거나 발언의 뉘앙스를 심각하게 왜곡하는 ‘환각(Hallucination)’ 양상을 나타냈다.
■ "AI 뉴스 왜곡은 시스템 결함"… 알고리즘 투명성, 글로벌 규제 시급
EBU 미디어 부총장 장 필립 드 텐더(Jean Philip De Tender)는
공식 성명을 통해 "이번 조사는 AI의 정보 왜곡과 실패가 일부 언어나 일회성 모델의 문제가 아닌, 전 세계적이고 시스템적인 결함(Systemic failure)임을 명백히 보여준다"며 "이는 사실에 기반한 대중의 공론장과 공공의 신뢰를 심각하게 위협하는 행위"라고 강력히 경고했다.
방송사 연합 연구팀은 현재의 생성형 AI 모델들이 문장을 유려하게 정제하고 그럴싸한 가독성을 확보하는 과정에서 기초적인 팩트를 희생시키는 알고리즘적 한계를 고수하고 있다고 지적했다.
이에 따라 연구진은 현행 디지털 서비스법이나 AI 규제 프레임워크 밖에 방치되어 있는 '알고리즘 미세 조율 방식'의 투명성 확보를 요구하는 한편, AI 비서의 뉴스 무결성을 측정할 수 있는 표준 툴킷(Toolkit)을 개발해 정부 및 플랫폼 규제 당국에 강제 조치를 촉구했다.
국제부
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
