[비즈니스포스트] “2028년 다음 미국 대선은 더 이상 사람이 주도하는 선거가 아닐 가능성이 있다.”

세계적 베스트셀러 ‘사피엔스’의 저자 유발 하라리 예루살렘 히브리대 교수가 지난해 3월 AI(인공지능) 개발속도를 늦춰야 한다는 미국 비영리단체인 ‘미래의 삶 연구소’ 공개서한에 서명하며 한 말이다.

2024년은 우리나라 총선을 비롯해 전 세계 주요 국가에서 83개의 선거가 열리는 ‘선거의 해’다. 세계의 학자들과 정치인들은 AI가 선거에 미칠 부정적 영향을 걱정한다.

이미 미국을 비롯한 여러 나라에서 AI의 부작용이 나타난다. 각 나라 정치권에서도 총선을 앞두고 선거에 AI가 미칠 영향에 관심을 가지고 규제하려는 모습이다. 다만 AI가 선거에 개입되는 것을 차단하기 위해서는 현재보다 더 많은 인력과 비용이 투입돼야 한다는 지적도 제기된다.

20일 여러 외신보도를 종합하면 세계 주요국들이 AI로 발생하는 선거 부작용을 어떻게 처리할 것인지를 두고 고심하고 있다. 특히 올해 11월 대선을 앞둔 미국에서 관련 논의가 가장 활발히 펼쳐지고 있는 것으로 파악된다.

뉴욕타임스에 따르면 15일 선거운동에서 발생한 AI 조작을 처벌하고 사용된 AI를 공개하도록 한 법안이 미국 뉴욕 주 의회에 발의됐다. 미국 정치매체 악시오스는 뉴욕주 의회에 이미 AI가 선거에 미치는 폐해를 막기 위한 법안이 65건이나 상정돼있다고 보도했다.

앞서 텍사스와 캘리포니아주는 2022년 AI 영상을 선거 30일 이내에 유포하는 행위를 금지하는 법안을 통과시켰다.

미국에서는 AI의 선거 개입 논란이 주 차원뿐 아니라 연방차원의 문제로 확대되는 분위기다. 조 바이든 대통령은 지난해 10월30일 AI 생성 과정의 투명성과 출처의 표준화를 핵심으로 하는 행정명령에 서명했다.

이에 관해 한국 국가안보전략연구원은 2023년 11월 ‘이슈브리프 480호’를 통해 미국에서 연방차원의 행정명령까지 나온 것은 미국의 AI에 관한 경각심을 보여주는 조치라 평가했다.

이처럼 미국에서 AI의 선거부작용 논의가 활성화되는 이유는 실제 AI를 악용한 사례가 늘어나고 있기 때문이다.

뉴욕타임스는 1월22일 미국 뉴햄프셔주 정부가 바이든 대통령을 사칭하는 AI 통화음성을 조사하고 있다고 보도했다. 바이든 대통령의 목소리를 AI로 조작해 민주당원들에게 대선후보 예비선거에 참여하지 말라는 가짜 정보를 퍼뜨린 사건이 발생한 것이다.

거꾸로 AI가 영상을 조작할 수 있다는 문제점을 활용해 정치인이 ‘실제 영상’을 ‘조작’이라 주장한다는 논란도 제기된다.

워싱턴타임스의 1월22일 ‘정치인들이 의혹을 피하고자 AI를 비난하고 있다’ 보도를 보면 도널드 트럼프 미국 전 대통령은 자신이 ‘익명(anonymous)’ 발음을 제대로 못한 것 등 실언과 실수를 모은 영상을 AI 조작이라고 주장했다. 
 

그러나 트럼프 전 대통령이 실제 다수의 행사에서 실언과 실수를 했던 적이 있어 실제 영상을 가짜라 주장하며 지지층의 결집을 노린 것이 아니냐는 해석도 나온다.

대만에서도 유사한 사례가 있었다. 지난해 10월 총통 후보였던 정원찬 대만 부총리가 젊은 여성과 함께 호텔 방에 들어가는 영상이 공개됐다. 그는 이를 AI로 조작된 영상이라 주장했지만 대만 경찰은 조작 흔적을 찾지 못했다고 밝혔다.

이와 관련해 워싱턴포스트는 “AI가 자신의 피해를 막으려는 정치인들의 희생양이 되고 있다”며 “더 많은 정치인이 비슷한 주장을 하게 될 것”이라고 지적했다.

총선을 50여 일 앞둔 우리나라도 AI에 의한 선거 부작용 문제에서 예외는 아니다.

중앙선거관리위원회는 19일 AI를 통해 생성한 이미지로 선거운동을 해 공직선거법을 위반한 게시물을 129건 적발했다고 밝혔다. 여야는 2023년 12월 AI 딥페이크 기술을 활용한 선거운동을 금지하는 공직선거법 개정안을 통과시켰다.

개정된 공직선거법을 위반하면 7년 이하 징역 또는 5000만 원 이하의 벌금에 처해진다. 하지만 선관위가 AI 전담팀을 가동한 지 20일도 지나지 않아 위반사례가 속출하고 있다.

국회에서 AI 선거활용에 따른 피해를 막기 위한 추가적 입법 논의도 진행되고 있다. 

송석준 국민의힘 의원은 인공지능을 통해 여론조사를 조작해 선거운동에 이용하는 행위를 금지하는 법안을 발의했다. 송 의원은 법안을 발의하며 “기존에도 가짜뉴스가 있었지만 생성 AI를 통해 더 정교하고 치밀한 허위 정보가 퍼질 전망”이라고 강조했다.

다만 규제를 위해 필요한 인력과 예산 등의 사회적 비용 문제는 해결해야 할 과제로 꼽힌다.

선관위의 ‘2024년 사업별 세출설명자료’에 따르면 이번 총선 ‘국회의원 선거 관리예산’은 지난 2020년 총선과 비교해 16.27% 증가해 2810억 원가량으로 확정됐다.

다만 AI 대응과 관련한 구체적 예산이 편성된 것은 아니다. 세출 설명자료를 보면 ‘위법행위 예방과 단속’, ‘홍보·신고제보·조사단속’이라는 명목으로 예산이 편성됐을 뿐 AI 대응 예산은 편성되지 않았다. 지난해 12월 AI 관련 공직선거법 개정안이 급하게 통과되면서 구체적 예산 편성에는 시간이 부족했던 것으로 분석된다.

선관위에 따르면 이번 총선 AI 대응 인력은 72명이다. 평균적으로 AI 영상이 10분 만에 만들어지는 것을 감안하면 부족한 인력으로 평가받는다. 

앞으로 더 진보한 기술의 AI가 선거에 미칠 영향을 감안하면 불법 AI 선거운동 대응에 필요한 사회적 비용은 크게 증가할 것으로 예상된다.

선관위도 현재 운영 중인 AI 전담반에 2월10일부터 AI 감별반과 데이터분석반 등 관련 조직을 추가로 구성하겠다는 방침을 정했다. 조직 확충을 통해 AI 등을 활용한 특정 후보 지지·반대 게시물을 올리는 조직적 행위를 탐지하겠다는 것이다.

다만 선관위는 선거에 부적절한 AI 활용에 적극적으로 대응하기 위해서는 추가적 입법이 필요하다는 견해를 나타냈다.

김용빈 중앙선관위 사무총장은 2023년 11월 세계일보와 인터뷰에서 “관련 법령이 아직 마련되지 않아 공직선거법상 허위사실 공표죄만으로 처벌하는 것밖엔 특별한 방법이 없다는 점”이라며 “이미 국회에서도 AI 생성물 관련 법안이 여럿 발의돼 있는데 그 법안들이 통과됐으면 좋겠다”고 말했다. 김호현 기자