[기고] [기업법률가이드] 딥페이크 관련 법적규제 – 표경민 변호사

2024. 09. 10

인공지능(AI) 기술 발전으로 누구나 손쉽게 딥페이크(Deepfake) 이미지와 영상을 제작해, 이를 악용한 범죄가 사회적 문제로 부각되고 있다.

딥페이크는 사람 얼굴이나 음성, 물건, 장소 등의 합성을 통해 ‘진실’과 구분이 어려운 결과물을 만들어낸다. 정치 분야에서 많이 악용됐다. 국내에선 지난 1월 18일 공직선거법을 개정해 딥페이크 기술을 이용한 선거운동을 금지시켰다. 선거운동을 위해 딥페이크 영상 등을 제작·유포한 경우 가상정보라는 점을 명확하게 딥페이크 영상 등에 표시해야 한다. 표시를 누락하면 허위사실 공표죄에 해당한다. 중앙선거관리위원회의 ‘딥페이크 영상 관련 법규운용기준’을 보면 가상정보임을 표시해도 특정 후보자의 낙선을 목적으로 후보자를 비방하는 내용을 포함하면 후보자 비방죄에 해당할 수 있다.

(중략)

딥페이크를 이용한 주된 범죄 양상은 그간 허위정보 유포나 성착취물 유포에 집중됐지만, 활용방식이 다양해지면서 최근엔 사이버 사기 등 경제범죄로까지 확산되고 있다. AI서비스 제공자와 각종 플랫폼 운영자들도 AI와 딥페이크 관련 규제 법률의 적용을 받을 가능성이 있다. 온라인 플랫폼 운영자는 현재 논의 중인 딥페이크 관련 규제 방안들에 대비, 법적·기술적 컴플라이언스 체계를 사전에 구축해야 한다.딥페이크 콘텐츠 탐지 및 관리 시스템도 마련할 필요가 있다.