[비즈니스포스트] 서울대학교에서 최근 인공지능(AI)을 활용해 기존의 음란물에 지인 이미지를 합성한 딥페이크 범죄가 발생하며 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률(AI기본법) 제정의 필요성이 부각되고 있다.
AI 활용 디지털범죄 위험성이 커지고 있지만 우리나라에 AI기본법이 없어 가해자를 처벌할 마땅한 법적 체계가 마련돼 있지 않다는 것이다.
22일 법률전문가들에 따르면 AI 기술 발달에 따라 딥페이크 음란물을 일반인도 쉽게 제작할 수 있게 돼 이런 범죄를 막기 위한 AI기본법 제정을 서둘러야 한다는 목소리가 나온다.
AI기본법이 제정돼야 관련 산업을 진흥할 수 있을뿐 아니라 딥페이크 관련 범죄를 처벌한 규정도 마련할 수 있다는 얘기다.
김수민 김수민법률사무소 변호사는 비즈니스포스트와 통화에서 “AI 기술 발달로 딥페이크 성범죄가 더욱 정교해지고 있는데다 건수도 증가하고 있어 AI기본법 제정을 서둘러야 한다”고 말했다.
김 변호사는 “현재 AI를 활용한 음란물 성범죄에만 국한돼 처벌이 이뤄지고 있는데 AI기본법이 제정되면 표절을 포함한 다른 범죄도 처벌할 근거를 마련할 수 있다”고 덧붙였다.
고환경 변호사는 최근 과학기술정보통신부가 개최한 ‘AI 전략 최고위협의회 법·제도 분과 1차 회의’에서 “AI가 사회에 미치는 영향력을 고려해 역기능을 최소화할 수 있도록 AI 기본법이 제정돼야 한다”고 말했다.
딥페이크는 ‘딥러닝(deep learning)’과 ‘가짜(fake)’의 합성어다. 딥페이크 성범죄는 AI 기술을 활용해 기존 음란물에 지인의 사회관계망서비스(SNS) 사진 등을 합성해 불법음란물을 만드는 형태인데 일반인도 쉽게 제작이 가능해 사회 전반에 퍼지고 있다.
한국여성인권진흥원이 2023년 발간한 ‘디지털 성범죄 피해자 지원 보고서’를 보면 딥페이크를 포함한 디지털성범죄피해자 수는 2018년 1315명에서 2023년 8983명으로 급증했다.
딥페이크 성범죄 사건은 이번달에 들어서만 굵직한 사건이 불거지며 사회적 논란이 됐다.
제주국제학교에서 지난 17일 동급여학생 2명의 얼굴사진을 합성해 만든 불법음란물을 친구들에게 보여준 혐의를 받는 10대 남학생 A군이 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 입건됐다.
또 서울대 졸업생이 지난 21일 대학 동문의 사진을 이용해 딥페이크 불법음란물을 만들었다는 이른바 '서울대 n번방'사건이 적발되며 논란이 됐다.
이렇듯 딥페이크 범죄가 심각한 사회문제로 부상했음에도 우리나라엔 아직 AI기본법이 없어 현재 성폭력처벌법으로만 처벌하고 있는 상황이다.
성폭력처벌법 제14조의2에 따르면 반포할 목적으로 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨리면 5년 이하 징역 또는 5천만 원 이하 벌금을 내도록 돼있다.
그러나 AI 활용 범죄를 처벌하는 직접적 근거 규정도 아니어서 기준이 다소 모호해 딥페이크 성범죄 가해자에게 적용하는 일이 쉽지 않다는 지적이 많았다.
이종호 과학기술정보통신부 장관은 최근 기자간담회에서 “AI 기본법이 통과돼야 AI 악용 범죄에 대한 처벌 규정을 시행령에 담을 수 있다”고 말했다.
AI기본법은 21대 국회에서 발의됐으나 임기 종료와 함께 폐기 수순을 밟고 있다. 여야 협의 과정에서 '인공지능 산업을 먼저 진흥하고 나중에 규제한다'는 방향이 정해진 것을 놓고 시민사회의 문제 제기가 나오자 논의가 더 이상 진전되지 못했다.
다만 정부에서 AI기본법 제정 추진 의지를 강하게 보이고 있어 22대 국회에서 새로 발의되어 논의가 진전될 것으로 예상된다.
과학기술정보통신기술부는 ‘새로운 디지털 질서 정립 추진계획’의 일환으로 지난 21일 20대 정책과제를 내놨는데 이 가운데 AI기본법을 2024년 안에 신설해 AI 안전성 검증을 위한 전담조직을 꾸린다는 내용이 포함됐다.
AI기본법은 AI 기술 도입과 활용 지원, AI 윤리정책에 따른 정책 수립 등의 내용을 포함하고 있어 범죄 예방뿐 아니라 AI 활용 산업 전반에 관한 포괄적 규범으로 기능할 것으로 보인다.
김수민 변호사는 “AI기본법은 관련 산업 전반을 규율해 국가가 AI산업을 어떻게 조력하고 지원해야 하는지에 대한 가이드라인이 될 수 있다”고 말했다. 배윤주 기자
AI 활용 디지털범죄 위험성이 커지고 있지만 우리나라에 AI기본법이 없어 가해자를 처벌할 마땅한 법적 체계가 마련돼 있지 않다는 것이다.
▲ 서울대 동문·지인 상대로 디지털 성범죄 벌인 피의자가 최근 경찰에 검거되는 모습. <연합뉴스>
22일 법률전문가들에 따르면 AI 기술 발달에 따라 딥페이크 음란물을 일반인도 쉽게 제작할 수 있게 돼 이런 범죄를 막기 위한 AI기본법 제정을 서둘러야 한다는 목소리가 나온다.
AI기본법이 제정돼야 관련 산업을 진흥할 수 있을뿐 아니라 딥페이크 관련 범죄를 처벌한 규정도 마련할 수 있다는 얘기다.
김수민 김수민법률사무소 변호사는 비즈니스포스트와 통화에서 “AI 기술 발달로 딥페이크 성범죄가 더욱 정교해지고 있는데다 건수도 증가하고 있어 AI기본법 제정을 서둘러야 한다”고 말했다.
김 변호사는 “현재 AI를 활용한 음란물 성범죄에만 국한돼 처벌이 이뤄지고 있는데 AI기본법이 제정되면 표절을 포함한 다른 범죄도 처벌할 근거를 마련할 수 있다”고 덧붙였다.
고환경 변호사는 최근 과학기술정보통신부가 개최한 ‘AI 전략 최고위협의회 법·제도 분과 1차 회의’에서 “AI가 사회에 미치는 영향력을 고려해 역기능을 최소화할 수 있도록 AI 기본법이 제정돼야 한다”고 말했다.
딥페이크는 ‘딥러닝(deep learning)’과 ‘가짜(fake)’의 합성어다. 딥페이크 성범죄는 AI 기술을 활용해 기존 음란물에 지인의 사회관계망서비스(SNS) 사진 등을 합성해 불법음란물을 만드는 형태인데 일반인도 쉽게 제작이 가능해 사회 전반에 퍼지고 있다.
한국여성인권진흥원이 2023년 발간한 ‘디지털 성범죄 피해자 지원 보고서’를 보면 딥페이크를 포함한 디지털성범죄피해자 수는 2018년 1315명에서 2023년 8983명으로 급증했다.
딥페이크 성범죄 사건은 이번달에 들어서만 굵직한 사건이 불거지며 사회적 논란이 됐다.
제주국제학교에서 지난 17일 동급여학생 2명의 얼굴사진을 합성해 만든 불법음란물을 친구들에게 보여준 혐의를 받는 10대 남학생 A군이 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 입건됐다.
또 서울대 졸업생이 지난 21일 대학 동문의 사진을 이용해 딥페이크 불법음란물을 만들었다는 이른바 '서울대 n번방'사건이 적발되며 논란이 됐다.
▲ 21일 열린 제22회 국무회의에서 발표된 '새로운 디지털 질서 정립 추진계획' 요약. <과학기술정보통신부>
성폭력처벌법 제14조의2에 따르면 반포할 목적으로 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨리면 5년 이하 징역 또는 5천만 원 이하 벌금을 내도록 돼있다.
그러나 AI 활용 범죄를 처벌하는 직접적 근거 규정도 아니어서 기준이 다소 모호해 딥페이크 성범죄 가해자에게 적용하는 일이 쉽지 않다는 지적이 많았다.
이종호 과학기술정보통신부 장관은 최근 기자간담회에서 “AI 기본법이 통과돼야 AI 악용 범죄에 대한 처벌 규정을 시행령에 담을 수 있다”고 말했다.
AI기본법은 21대 국회에서 발의됐으나 임기 종료와 함께 폐기 수순을 밟고 있다. 여야 협의 과정에서 '인공지능 산업을 먼저 진흥하고 나중에 규제한다'는 방향이 정해진 것을 놓고 시민사회의 문제 제기가 나오자 논의가 더 이상 진전되지 못했다.
다만 정부에서 AI기본법 제정 추진 의지를 강하게 보이고 있어 22대 국회에서 새로 발의되어 논의가 진전될 것으로 예상된다.
과학기술정보통신기술부는 ‘새로운 디지털 질서 정립 추진계획’의 일환으로 지난 21일 20대 정책과제를 내놨는데 이 가운데 AI기본법을 2024년 안에 신설해 AI 안전성 검증을 위한 전담조직을 꾸린다는 내용이 포함됐다.
AI기본법은 AI 기술 도입과 활용 지원, AI 윤리정책에 따른 정책 수립 등의 내용을 포함하고 있어 범죄 예방뿐 아니라 AI 활용 산업 전반에 관한 포괄적 규범으로 기능할 것으로 보인다.
김수민 변호사는 “AI기본법은 관련 산업 전반을 규율해 국가가 AI산업을 어떻게 조력하고 지원해야 하는지에 대한 가이드라인이 될 수 있다”고 말했다. 배윤주 기자
