6·3 대통령 선거가 약 2개월 앞으로 다가오면서 딥페이크 등 인공지능(AI) 기술을 활용한 조작물이 악용될 우려가 커지고 있다.  지난해 4·10 총선에서 딥페이크 문제는 '기우'에 그쳤지만, 1년 새 급속도로 발전한 생성형 AI 기술이 일반에 확산하며, 정치 공작이나 가짜뉴스 유포 등에 활용될 가능성이 높아졌다는 게 전문가들의 판단이다.

13일 언론사 취재를 종합하면 틱톡, 인스타그램 같은 사회관계망(SNS)이나 인터넷 커뮤니티 등에서는 벌써 AI를 활용해 만든 주요 대선 주자들의 가짜 사진·영상이 빠른 속도로 퍼지고 있다.

예비 후보가 덩크슛을 하거나 호랑이 등에 올라타는 등의 우호적 합성물도 있지만, 예비 후보의 목소리로 경쟁 후보를 비방하는 가짜 영상이나, 후보가 수의를 입은 가짜 사진 등 악의적 창작물이 더 많은 상황이다.

피해 사례도 이미 등장했다. 더불어민주당 이재명 예비후보 캠프는 11일 "이 예비후보가 김혜경 여사에게 욕하는 동영상이라는 내용의 딥페이크 영상을 만들어 유포를 시도한다는 제보가 선대위에 접수됐다"며 영상을 유포할 경우 엄정 대응하겠다고 밝혔다.

이런 딥페이크 조작물은 선거 기간 한 번 퍼지면 걷잡을 수 없다는 게 문제다.

이성엽 고려대 기술경영전문대학원 교수는 "이제는 고령층까지도 챗GPT 등으로 사진을 합성해 유포할 수 있어 순식간에 퍼지는 게 가능해졌다"고 말했다.

AI 생성물임을 알리는 워터마크 표시를 의무화한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)은 2026년 1월 시행 예정이다. 이번 대선은 딥페이크 유통에 대한 통제가 어려운 '공백기'라고 이 교수는 지적했다.

이와 관련해 경찰은 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속하겠다고 밝혔다.

현행 공직선거법은 선거일 90일 전부터 선거운동을 위한 딥페이크 영상의 제작 및 유포 등을 금지했다. 2023년 개정된 해당 규정은 지난해 총선 처음 적용됐다.

지난해 총선 당시 경찰이 이 규정을 적용해 처벌한 사례는 없지만, 생성형 AI의 발달과 대중화로 이번엔 다를 수 있다는 게 경찰 판단이다.

경찰 관계자는 "딥페이크나 AI 생성물을 활용해 후보자에 대한 허위 사실을 공표하거나 비방하는 경우 형사 처벌이 이뤄질 수 있다"고 강조했다.