[기고] (시론)기술 뒤에 숨어버린 범죄의 평범성 ? 딥페이크 성범죄 – 안희철 파트너 변호사

2024. 09. 09

한나 아렌트는 아이히만과 같은 평범한 사람들이 반인륜적인 악행을 당연하고 평범하다고 여기며 행할 수 있다는 점에서 ‘악의 평범성’을 얘기했다. 2019년 ‘N번방 사건’은 일부의 가해자가 일부의 피해자를 성적으로 착취하고 텔레그램의 익명성과 암호화 기술을 이용해 그것을 퍼트리는 방식이었다면, 2024년 딥페이크 성범죄는 AI기술과 텔레그램이 만나 누구든 쉽게 가해자가 되고 누구든 피해자가 되는 평범성과 전파성을 가지게 됐다. 이 중대한 범죄에 대해 개인이 깊이 사유하지 않고 국가가 방치한다면 딥페이크 성범죄는 끊임없이 퍼져나가 사회 전체가 거대한 아우슈비츠의 가스실이 될 것이다.

(중략)

딥페이크 악용을 차단하기 위해서는 AI 기반 딥페이크 탐지 알고리즘[포렌식 영상 분석(Forensic video analysis) 기술 등]이 범죄 영상을 찾아내고 차단하는 데 중요한 역할을 한다. 예를 들어, 영상에서 발생하는 픽셀 움직임이나 눈 깜박임, 얼굴의 떨림 등을 분석해 딥페이크 영상 여부를 판별할 수 있다. 이러한 영상이 범죄에 사용되었을 경우, 신속하게 해당 영상과 웹페이지, 메시지 방을 차단하는 조치가 필요하다. 또한 워터마킹(Watermarking) 기술을 통해 콘텐츠의 진위를 확인하고, 블록체인 기반 인증 시스템을 통해 딥페이크 기술이 범죄에 사용되었는지 적극적으로 점검할 필요가 있다.