[비즈니스포스트] 한국의 인공지능(AI) ‘딥페이크’ 포르노 확산 사태는 텔레그램을 비롯한 플랫폼과 IT업체에 적극적 대응 및 규제 강화 필요성을 높인다는 외신 논평이 나왔다.

대형 IT기업들은 최근 비용 절감 차원에서 인공지능 윤리 관련 조직과 인력을 축소하고 있는데 수익성을 위해 여성의 존엄성을 해치는 결과를 낳아서는 안 된다는 것이다.

블룸버그는 9일 논평을 내고 “한국이 딥페이크 포르노 사태의 중심으로 자리잡았지만 이는 전 세계의 문제”라며 “IT기업들이 더 이상 책임을 회피할 수 없다”고 바라봤다.

인공지능 기술 개발을 선도하고 있지만 딥페이크와 같은 부작용에 올바르게 대처하지 않고 있는 IT기업들이 이를 예방하려는 노력을 더 적극적으로 기울여야 한다는 주장이다.

딥페이크 포르노는 기존의 영상물에 다른 인물의 얼굴 등을 합성해 제작하는 영상이다. 최근 한국에서 텔레그램 메신저를 통해 이런 영상들이 공유되는 불법 행위가 파악됐다.

인공지능 도구를 활용해 이러한 딥페이크 영상물을 손쉽게 제작할 수 있게 됐다는 점이 문제로 지목된다.

블룸버그는 “인공지능 기술의 발전이 어떠한 나쁜 결과를 불러올 수 있는 지 보여준 사례”라며 이런 영상이 공유되는 창구로 쓰인 텔레그램도 책임이 있다고 지적했다.

윤석열 대통령이 이번 사태를 엄중하게 바라보고 있다는 점은 긍정적이지만 과거 행적을 고려한다면 설득력을 얻기 어려울 수 있다는 비판도 제기됐다.

윤 대통령이 2022년 대선에서 승리한 배경으로 여성가족부 폐지를 약속하는 등 페미니즘에 비판적 태도를 보이며 젊은 남성 유권자들의 지지를 얻었다는 점이 꼽히기 때문이다.

블룸버그는 한국 출산율 하락의 원인으로 페미니즘을 지적하기보다 노동시장 변화와 육아 분담에 대한 부담 등을 주의깊게 살펴봐야 할 것이라는 의견도 전했다.

한국의 딥페이크 포르노 대응 사례는 전 세계에서 중요한 선례로 남을 것으로 관측됐다.

이러한 행위를 처벌할 수 있는 법적 근거가 한국에는 마련되어 있지만 미국의 경우 이와 비슷한 법안이 의회를 통과하는 데 오랜 시간이 걸리고 있어서다.

블룸버그는 “한국의 사례는 딥페이크 포르노가 얼마나 쉽게 제작되고 공유되는지, 또 이를 규제하기가 얼마나 어려운지 보여준다”며 “플랫폼과 IT업체들이 책임을 져야 할 때”라고 전했다.

각 대학 연구진과 연구소에서 딥페이크 문제에 대응할 수 있는 여러 신기술을 내놓고 있지만 문제를 해결하기에는 자원이 충분하지 않다는 지적이 나왔다.

블룸버그는 대형 IT기업들이 최근 수 년 동안 인공지능 윤리 관련 조직을 축소하며 비용 절감 노력에 힘을 더했다는 점도 문제를 키울 수 있다는 점을 시사했다.

IT기업들이 인공지능 기술을 개발해 상업화하는 데 그치지 않고 효과적인 예방책을 함께 선보여야만 한다는 의미로 풀이된다.

미국의 경우 연말 대선을 앞두고 카멀라 해리스와 도널드 트럼프 등 대선후보가 등장하는 딥페이크 이미지가 확산되며 가짜뉴스로 악용되는 사례도 늘고 있다.

블룸버그는 “여성의 존엄성은 수익성을 이유로 희생되어서는 안 된다”며 이러한 문제는 한국을 넘어 전 세계로 번질 수 있다고 바라봤다. 김용원 기자