국민의힘 딥페이크 디지털 성범죄 대응 특별위원회는 11일 딥페이크를 활용한 성 착취물을 소지하거나 2차 가해 행위가 이뤄졌을 경우에 대한 처벌 방안을 마련하기로 했다.
안철수 특위 위원장은 이날 국회의원회관에서 열린 첫 회의에서 “딥페이크 범죄 처벌과 재발 방지를 위한 규정을 신설하겠다”고 밝혔다.
안 위원장은 “그간 딥페이크를 제작하는 사람뿐 아니라 소지한 사람도 유포할 목적이 없으면 처벌을 피할 수 있었다”며 “이 디지털 합성물이라는 게 성 착취물과 다를 바 없는 만큼 제작 유포뿐 아니라 2차 가해와 소지에 대한 처벌과 규제 방안까지 마련할 생각”이라고 말했다.
그는 “불법 콘텐츠는 신속히 삭제·차단되도록 지원할 것”이라며 “AI(인공지능)를 통해 자동으로 가장 빠른 시간 내 신고하고 삭제하는 자동시스템을 만드는 게 정부에서 해야 할 일”이라고 했다.
이어 “성범죄 유통 플랫폼에 대한 대책이 필요하다”며 “딥페이크 성범죄 확산도 텔레그램이라는 외국 플랫폼을 통해 이뤄지지 않았나. 이런 플랫폼을 방치해서는 안 된다”고 주장했다.
또 “딥페이크 영상물에 워터마크 등을 표시하는 것을 의무화하고, 탐지하고, 삭제하는 기술 개발도 시급하다”며 “올바른 AI 생태계 구축을 위한 논의를 시작해야 한다. 규제만이 능사는 아니다. 이제 윤리 교육도 꼭 필요하다”고 덧붙였다.
안 위원장은 “AI 기술을 통한 가짜뉴스, 성범죄를 근절하되 언론의 정치 풍자, 예술 콘텐츠에 딥페이크를 활용하는 것을 어느 정도까지 허용할 것인가에 대한 문제까지도 심도 있게 다뤄야 할 것”이라고 언급했다.
