피해 후보자들은 선거에서 졌다.

이 영상·음성파일은 인공지능(AI) 기술로 만든 딥페이크(Deepfake) 제작물로 판명되었지만 선거가 이미 끝난 뒤였다.

국내에서는 2022년 대선 때 선거운동을 위한 ‘AI대통령’이 만들어져 활용됐고, 그해 지방선거에서는 남해군수 선거 후보를 지원하는 ‘AI대통령’ 조작 영상이 퍼져 논란이 됐다.

필자는 현재 발생하고 있는 다양한 딥페이크 관련 국내외 사례를 고려하면, 오는 4월 10일 실시되는 제22대 국회의원선거와 관련하여 (사전)투표일에 유력 후보자가 “성폭력으로 긴급체포되었다”, “교통사고로 사망했다” 라는 가짜 영상 등이 SNS를 통해 퍼지고, 이를 본 유권들이 혼란스러워하면서 투표소로 향하는 일이 발생하지 않을까 상상해 본다.

딥페이크(Deepfake)는 ‘Deep Learning’(딥러닝)과 ‘Fake’(가짜)의 합성어로, 인공지능(AI) 기술을 활용하여 특정 인물의 얼굴이나 목소리를 교체하거나 합성하여 실제 같은 가짜 이미지나 영상 등을 만드는 기술이다.

비전문가도 상품화된 AI 프로그램을 이용하여 빠르게 진짜 같은 가짜 콘텐츠를 만들 수 있고, 이렇게 만들어진 제작물은 소셜미디어(SNS)를 통해 실시간 상호작용하면서 순식간에 퍼져 사람들을 속게 만든다.

마이크로소프트(MS) 창업자인 빌게이츠가 말한 “AI가 생성한 딥페이크와 허위 정보는 선거와 민주주의를 훼손할 수 있다”라는 경고는 지금 현실화됐다.

필자는 20여 년 전에 선관위에 입사했다. 그때는 벚꽃이 필 때, 단풍이 들 때, 눈이 올 때 캠코더를 들고 각종 행사장을 돌아다니면서 사전선거운동이 있는지, 유사기관을 설치했는지 등을 감시하였다.

하지만 2010년 후반부터 대법원의 판례가 변경되고, 최근 선거법이 개정되어 말(구두)로 하는 사전선거운동이 허용되면서 Off-line 상의 단속활동 비중은 크게 줄었다.

대신 컴퓨터 앞에 앉아 인터넷, 소셜미디어 상에서 허위사실공표, 비방행위 등을 검색하는 시간이 늘어났다.

작년 생성형 인공지능인 챗-GPT가 선보이면서 상황은 더욱 급변했다.

중앙선관위와 시도선관위는 제22대 국회의원선거를 위해 AI 단속반을 편성·운영하고 감별 프로그램 이용하여 딥페이크 콘텐츠를 집중 모니터링하고 있다.

하지만 딥페이크를 통한 선거운동은 기존 말로 하는 선거운동 행위 등과 같은 클래식한 위법행위와는 차원이 다르다 보니 단속에 애로사항이 많다.

의심스러운 제작물을 발견해도 실시간 진위를 판별하기 어렵기 때문이다. 선거일이 가까워질수록 모니터링해야하는 콘텐츠도 훨씬 늘 것이며, 선거일이 임박한 경우에는 선거가 끝난 후에 조작 영상 여부가 결정 날 수도 있다.

사후 치유가 불가능한 선거에서 인공지능(AI)의 치명적인 오남용으로부터 선거와 민주주의를 지킬 뾰족한 대응책은 없다.

그럼 어떻게 해야 하나. 선관위를 비롯한 수사기관은 가용 자원을 총동원하여 위법행위의 발생을 막아야 한다.

플랫폼 업체들도 직면한 상황을 인식하여 지금보다 더 적극적으로 조작 영상, 가짜 자동 댓글을 차단하거나 걸러내는 방안을 세워 책임 있는 모습을 보여줘야 한다.

하지만 무엇보다 중요한 것은 정당, 후보자, 열성 지지자들의 자정 노력이다.

당선되면 그만이라는 인식을 버려야 하고 선거운동 목적으로 딥페이크 제작물을 절대 만들지 말아야 한다.

유권자들은 의심스럽거나 조작된 정보로 추정되는 선거운동용 영상물 등을 접하게 되면 퍼뜨리지 말고 다른 매체를 통해 확인하거나 해당 후보자의 선거캠프에 문의하여 진위를 체크하고 가까운 선관위나 수사기관에 즉시 신고하여야 한다.