[SOH] 기술의 발전과 함께 인공지능(AI) 기술이 사회 전반에 걸쳐 빠르게 확산되면서, 인류의 삶에 편의와 여유를 제공하고 있지만 AI를 활용한 각종 범죄 급증 등 그에 따르는 부작용도 심각하다. 기술 발전 속도를 법과 제도가 따라가지 못하는 상황이 범죄의 온상이 되고 있다.
딥페이크를 이용한 영상 조작, AI 음성 합성 기술을 활용한 보이스피싱, 그리고 자동화된 피싱 및 사기 등은 기존의 범죄 양상과는 다른 고도화된 형태로 사회의 근간을 위협한다. 이러한 디지털 범죄는 개인의 재산 피해를 넘어 사회적 신뢰를 훼손하고, 심각한 경우 개인의 명예와 인권 침해로 이어진다.
AI는 ‘셀프 러닝(self-learning)’을 통해 개발자들조차도 예측하지 못한 방향으로 발전하고 있다. AI 속에 어떤 생각이 존재하고, 또 이를 달성하기 위해 어떻게 행동할지 누구도 정확히 예측할 수 없는 까닭에 AI를 '블랙박스'라고 부르기도 한다.
최근 발표된 보안 보고서에 따르면, AI 기반 공격은 탐지 및 추적이 더욱 어려워지고 있으며, 범죄 조직들은 AI를 활용하여 공격 대상을 특정하고 정교한 맞춤형 사기수법을 개발하는 데 주력하고 있다. 특히 고령층과 디지털 취약 계층은 이러한 신종 범죄에 더욱 쉽게 노출될 수 있어 특별한 보호 조치가 필요하다는 목소리가 높다.
AI 기술을 활용한 위조문서도 갈수록 정교해지며 관련 피해가 눈덩이처럼 불어나고 있다. 2023년부터 2024년 사이 디지털 문서 위조는 244%나 급증한 것으로 나타났다. 특히 AI 기술을 활용하면서 위조문서는 단순히 신분증 위조를 넘어 세금 관련 서류나 투자 계약서 등에 이르는 핵심 문서에 이르기까지 광범위하게 확산되고 있는 상황이다.
하지만 현재 사회 안전망은 이러한 AI 기반 신종 범죄에 대한 충분한 방어력을 갖추지 못한 실정이다. 기존의 수사 방식으로는 범죄의 발생지를 특정하거나 가해자를 식별하는 데 한계가 있으며, 관련 법규 또한 빠르게 변화하는 기술 환경을 반영하지 못하고 있다. 기술 발전에 상응하는 법적, 제도적 기반 마련이 시급한 상황이다.
인공지능 기술의 발전은 인류에게 많은 이점을 제공하지만, 동시에 새로운 사회적 위험을 동반하는 양날의 검과 같다. 따라서 사회 구성원 모두의 경각심과 정부, 기업, 시민 사회의 유기적인 협력을 통해 AI가 가져올 수 있는 부정적인 측면을 최소화하고 안전한 디지털 환경을 구축해야 할 것이다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
