윤석열 국민의힘 대선후보가 선대위 출범식에서 가짜 영상인 ‘AI 윤석열’을 공개한 이후 선거법상 적용 여부 뿐 아니라 인공지능 윤리 문제까지 불거지며 논란이다. 국민의힘은 되레 AI 윤석열을 이번 대선에 적극 활용해 강력한 무기가 될 것이라고 밝혀 기준 마련이 시급할 것으로 보인다.
이준석 국민의힘 대표 겸 윤석열 선대위 상임선대위원장은 지난 9일 오전 국민의힘 중앙선대위에서 “홍보본부 차원에선 지난번에 저희가 선보였던 AI 윤석열이라고 하는 새로운 시도에 대해 여러 재밌는 새로운 아이디어가 많이 들어오고 있고 실질적으로 여러 다양한 활용사례 보게 될 것”이라고 밝혔다. 이 위원장은 “AI 윤석열이 어떤 말을 하게 될지는 전적으로 여러분의 기획에 따라 하게 돼 있다”며 “직능본부에서도 메시지 만들어주시고 조직 차원에서도 지역 당원을 격려하거나 지역 당원을 고무시킬 수 있는 메시지를 발굴해”달라고 주문했다.
이 위원장은 “김용태 최고위원이 이를 담당하게 됐다”며 “아마 코로나 갈수록 대면접촉이 어려워진 상황에서 강력한 무기 되지 않을까 생각한다”고 내다봤다.
이에 더불어민주당은 아직 선거에 영향을 미치는 불법적인 내용이 나오지 않아 대응에 나서지 않고 있으나 본격적으로 활용될 경우 법적 기준과 해석을 통한 대응을 두고 고심하고 있다.
신동주 이재명 선대위 정책본부 팀장은 10일 미디어오늘과 통화에서 “법적 기준이 모호하고 선을 넘었을 때 법적용에 대한 기준이 없어 우려된다”며 “선거에서 활용되는 양상은 (AI 윤석열의) 양태와 내용을 보고 신중하게 판단할 필요가 있다”고 밝혔다.
중앙선거관리위원회도 AI 윤석열이 선거운동에 활용될 경우 이에 대한 법적 지위를 어떻게 부여하고 처벌조항을 적용할지 등을 고심하고 있다. 중앙선관위 공보과 관계자는 10일 미디어오늘과 통화에서 “검토가 필요한 사안”이라며 “검토를 해보고 답변해드리겠다”고 밝혔다. ‘AI 윤석열’ 영상에서의 메시지를 후보자의 선거운동으로 볼 것인지, AI가 허위사실 유포이나 상대방을 비방했을 때 처벌 대상으로 적용할 수 있을지, 후보자가 말한 것으로 볼지, 선대위의 책임으로 볼지, 영상을 제작한 프로그래머 책임으로 볼지 등 여러 쟁점이 있다.
‘AI 윤석열’은 ‘딥페이크’로 알려진 가짜 영상으로, 딥러닝 기법 중 ‘생성적 적대(대립) 신경망’(GAN:Generative Adversarial Networks)의 기법으로 제작된다. GAN 기술은 2014년 이안 굿펠로우가 학회에서 연구결과를 처음 발표하면서 성과를 내기 시작했다. 이 기술의 핵심 개념은 두가지의 신경망인 생성자(생성기:Generator)와 감별자(판별기:Discriminator)가 서로 동시에 훈련하면서 정확성을 높인다. 피터 노빅 구글 연구실장과 스튜어트 러셀 버클리대 컴퓨터과학과 교수는 지난 8월25일 출간한 ‘인공지능 현대적 접근방식 2’(류광 옮김, 제이펍)에서 생성기와 판별기의 훈련을 두고 “생성기의 학습은 판별기를 속이는 것이고 판별기의 학습은 진짜 데이터와 가짜 데이터를 정확히 구분하는 것이 목표”라며 “GAN은 이 세상에 태어난 적이 없는 인물의 사실적인 고해상도 사진을 생성할 수 있다”고 분석했다.
이들은 또 “생성 대립망(GAN)은 대부분의 사람이 속아 넘어갈 정도로 사실적이지만, 현실에는 존재하지 않는 완전히 새로운 이미지를 생성할 수 있다”며 “대표적인 예가 진짜 사람처럼 보이지만 사실은 모형에서 생성한 사진인 딥페이크”라고 설명했다. 두 저자는 스타워즈 시리즈 중 하나인 영화 ‘로그 원’에 나오는 레아 공주가 당시 60살이던 캐리 피셔의 19세 때 사진에서 생성한 이미지를 다른 다른 배우의 몸에 입혀서 만든 것이라고 소개하면서 “영화 업계는 예술적 목적으로 더 나은 딥페이크를 생성하고 있으며, 연구자들은 가짜뉴스의 유해한 영향을 완화하기 위해 딥페이크를 검출하는 방법을 연구하고 있다”고 썼다.
딥페이크 악용에 대한 국내의 현행 법제도 적용은 주로 ‘성폭력범죄의 처벌 등에 관한 특례법’을 통한 음란성 딥페이크 영상을 처벌하고 있다. 명예훼손(형법)이나 모욕(형법), 권리침해(정보통신망법) 등도 적용 가능하지만 아직 정치적 가짜뉴스를 위해 제작된 딥페이크 영상이 논란이 되지는 않았다.
더불어민주당은 딥페이크 영상 방지 공약 참고자료에서 “미국 대선에서도 정교한 딥페이크 악용으로 인해 국민의 선택에 영향을 미칠 것을 우려하는 목소리가 컸고, 동영상 관련 플랫폼 업체는 자율적으로 딥페이크 악용 가짜영상을 차단하겠다는 발표를 할 정도로 이번 우리 대선에서도 큰 이슈가 될 수 있다”며 “그밖에 인공지능 스피커의 목소리나 영화촬영 등에서의 합성 등 정상적인 딥페이크 기술과 관련한 규제는 공약에 없다”고 밝혔다.
대선을 넘어 인공지능 윤리 기준 수립이 선행돼야 한다는 목소리도 있다. 정필모 더불어민주당 의원이 지난 7월 대표발의한 ‘인공지능 육성 및 신뢰조성 등에 관한 법률안’을 보면, 인공지능 사용여부에 대한 사전 고지와 윤리기준 준수 등이 담겨있다.
법안은 △인공지능은 인간이 주체가 되는 윤리적 원칙을 준수하고 인간의 사생활 및 개인정보의 보호에 관한 사항을 준수하도록 하는 등 기본원칙 수립 △정부는 인공지능사업자 및 이용자가 지켜야 할 윤리 제정 △인공지능사회위원회 설치 △인공지능기술의 기준 지정 및 표준화를 위한 사업 추진 △윤리원칙 준수를 위해 기관 또는 단체에서 민간자율인공지능윤리위원회 설치 허용 및 평가, 인증 △특수활용 인공지능을 사용해 업무를 수행하는 자는 해당 사실을 상대방이 쉽게 알 수 있도록 사전에 고지하고 요청이 있는 경우 그 의사결정 원리 및 최종결과 등을 설명 △인공지능 서비스 제공시 기술적 과기정통부 장관에 신고하고 기술 관리 조치를 마련 등을 규정하고 있다.
이와 관련해 미국에서는 △페이스북의 경우 MS, 아마존 2020년 AI전문가들과 협력해 ‘딥페이크 탐지 챌린지(Deepfake Detection Challenge)’ 실시했고, 팩트체크 미디어 채널의 지원을 받아 조작 동영상 또는 사진 삭제, 가짜 뉴스 레이블 표시 등의 방식으로 대응 중이며, △구글, 자회사인 직소(Jigsaw)와 파트너십을 맺고 딥페이크 이미지를 모은 대규모 DB를 제작 및 완전 공개했다고 더불어민주당은 소개했다. 트위터의 경우 4가지 정책이 있는데, ①조작 콘텐츠가 포함된 트윗에 대한 알림 표시 ②조작 미디어 공유 전 경고 ③사용자가 콘텐츠 조작 근거 및 방법을 확인할 수 있는 뉴스 또는 검증된 자료 링크 포함 ④잠재적으로 안전에 해롭거나 위협적인 모든 조작 콘텐츠 제거 등을 추진하고 있다.