딥페이크 성착취, 어떻게 해결할까요?

⭕김남희 더불어민주당 의원 : “범죄 행위가 상당한데도 가해자들은 초범이고 반성하고 있다는 이유로 감형받는 게 현실이다. 이게 디지털 성범죄가 끊이지 않는 이유”,  “딥페이크 영상물에 대해 제작과 유포 행위만 처벌하는 것이 아니라 영상을 소지하고 시청하는 사람까지 모두 엄중히 처벌해야 한다. 양형기준도 정비해 가해자와 공조자들에게 경각심을 줄 필요가 있다.” (더보기)

🔺성지현, '노동자 연대' 필자 : "피해자의 피해와 고통을 위해 철저히 수사하고 가해자를 처벌하는 것은 필요하다. 하지만 정부가 엄벌을 내세우는 것의 의도와 효과도 고려해야 한다. 가령, 현재 주요 대안으로 논의되는 ‘시청·소지죄’는 세계적으로 유례가 없다. 소지·시청의 경로가 다양할 수 있는 데다가(범죄인 줄 모르고 봤다든가, 합의한 합성물이라거나 등), 경찰에게 사람들의 컴퓨터와 핸드폰을 일일이 들여다 볼 수 있는 감시 권한을 쥐어주는 것과 다름없다. 정말 그렇게 한다면 개인의 자유를 극도로 위축시킬 것이다. 그나마 별 효과도 없을 것이다." (더보기)

✅(참고) 딥페이크 처벌법 '알면서' 소동 : 2024년 9월 26일 국회 본회의를 통과한 '딥페이크 처벌법(성폭력범죄처벌특례법 개정안)'에 '알면서'라는 문구가 등장했다가 하루 만에 사라졌다. 문제가 된 부분은 "허위 영상물임을 '알면서' 이를 소지·구입·저장 또는 시청한 자는3년 이하의 징역 또는 3000만 원 이하의 벌금에 처한다"이다.  일부 의원들이 딥페이크 영상인 줄 모르고 시청해도 처벌받을 수 있다며 문구를 추가했지만, '몰랐다고 하면 처벌을 피할 수 있다'는 비판이 커지자 '알면서'를 삭제한 수정안을 올렸다.

⭕박지아 서울여성회 성평등교육센터장 : “알았든 몰랐든 가해자의 의도가 중요한 것이 아니다. 딥페이크 성범죄의 기준은 가해자의 의도가 아니라 피해자와 피해여야 한다.” (더보기)

❌김용민 더불어민주당 의원 : “누군가가 카톡으로 영상을 보내오면 자동으로 다운로드가 돼서 보게 된다. 그것이 만약 딥페이크 영상이면 소지, 시청한 사람이 된다”, "하지만 그 영상만으로는 딥페이크인지, 아닌지 알 수 없다. 그렇기 때문에 고의라는 것을 명확하게 집어넣어서 불필요한 수사 대상이 확대되는 것을 막을 수 있다.” (더보기)

⭕김명주 서울여자대학교 정보보호학부 교수 : "유럽연합(EU)은 '디지털 서비스법'(DSA), 영국은 '온라인책임법'으로 이미 온라인 플랫폼에도 불법 콘텐츠 유통 관련 책임을 지우고 있다", "최근 텔레그램이 우리 방송통신심의위원회에 사과의 뜻을 표하는 등 순응하는 것처럼 얘기했는데, 이는 최고경영자(CEO)가 프랑스에 체포된 상황과 무관치 않을 것", "피해 확산을 막는 데 국제적 공조도 필요하다." (더보기)

❌홍명교 동아시아 연구활동가 : "권력의 통제로부터 벗어나기 위해 만들어진 도구에 대한 정치권력의 제재나 사용 자체에 대한 금기시는 독립적 소통 수단의 상실을 낳는다. 권력에 의한 통제가 강해지면 표현의 자유는 침해되고, 이는 권력에 맞선 민주적 통제의 역량 발휘를 제한할 뿐이다. 국가권력에 대항하는 시민들이 지속적으로 요구하고 대안을 제시함으로써 성폭력적 콘텐츠를 제재할 국가권력 바깥의 규범을 만들어야 한다." (더보기)

🔺이소은 국립부경대학교 미디어커뮤니케이션학부 교수 : "현재 이 문제 대응은 플랫폼 자율규제 위주인데, 사업자마다 기준이 다르다. 특정 플랫폼에서는 금지된 영상물이 다른 플랫폼에서는 유통될 수 있는 상황", "플랫폼에 책무를 부과했을 때 산업계에 미치는 부작용도 고려해야 한다", "생성형 AI 관련 산업 전체가 위축되거나 국내·국외 플랫폼 간 규제 차별 문제가 발생하지 않도록 해야 한다." (더보기)

⭕허창덕 영남대 사회학과 교수 : "플랫폼에 대한 규제가 강화되면 표현의 자유가 보장되지 않는 '통제 사회'가 될 우려가 있다. 기술은 가치중립적이라 그 안에서 범죄가 발생한다면 수사와 처벌을 강화하는 편이 바람직하다." (더보기)

❌김명주 서울여대 바른AI센터장 : "AI 시대 표현 도구가 훨씬 저렴해지고 무한해졌다", "이전처럼 '표현할 수 있는 수단을 제공하라'는 개념이 아닌, 무한히 표현할 수 있는 가운데 표현할 수 없는 것을 지정하고 '이것 빼고는 다 표현하라'는 게 현시대의 '표현의 자유'" (더보기)

⭕린다 토머스-그린필드 주유엔 미국대사 : "딥페이크와 같은 AI가 생성한 콘텐츠는 정치적 논쟁의 진실성을 훼손할 가능성이 있고, 알고리즘의 편향은 사회분열과 소수자 차별을 심화시킬 수 있다" (더보기)

❌이준석 개혁신당 의원 : “대통령이 관심을 가지는 사안이다 보니 어떻게라도 방법을 만들기 위해 반농담으로 ‘학교폭력을 없애는 가장 확실한 방법은 학교를 없애는 것’ 이런 식의 대책이 나오면 안 된다”, “기술적으로 말이 되는 제안이 나와야 될 것 같다.” (더보기)

❌아르빈드 크리슈나 IBM 최고경영자 : “규제를 과도하게 하면 혁신이 (규제 범위 안에서) 융화돼 경쟁을 저해할 수 있다”, " “과도한 규제는 규제를 하지 않는 것보다 더 나쁘다.” (더보기)

🔺이상욱 한양대학교 철학과 교수 : "악의적 사용 가능성이 높은 기술, 낮은 기술에 따른 차별적인 규제가 필요하다. 기술에 있어서 모든 규제가 정당화되는 것은 경계해야 한다" (더보기)

✅참고 : 경찰청이 2024년 1월부터 9월 10일까지 전국에서 딥페이크 성착취 피의자로 검거한 인원은 318명이다. 이 중 10대가 251명(78.9%)으로 가장 많았다. 피의자 중 14살 미만인 촉법소년(형사미성년자)도 63명이었다. 촉법소년의 경우 형사처벌은 받지 않지만, 가정법원 등에서 사회봉사, 소년원 송치 등 보호처분을 받는다. (더보기)

⭕한동훈 국민의힘 대표 : “그거(딥페이크 범죄 영상 제작) 하는 분, 하고 싶어 하는 분 중 촉법소년 연령에 있는 분도 많을 것”,  ”사각지대를 제도적으로 보완할 필요가 있다. 이번 국회에서 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하향 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다” (더보기)

❌김예원 장애인권법센터 변호사 : "특정 연령대의 일부 범죄 발생률이 높다고 그 연령대에 해당하는 사람 전부의 처벌 수위를 내렸다 올렸다 하는 것은 형사정책이라 볼 수 없고, 효과적이지도 않다. 우리나라 소년범죄의 95%는 강력범죄가 아닌 생계형 범죄이며, 이미 14세가 아닌 10세부터 소년원에 보낼 수 있는 법이 작동되고 있다. 통계와 법 조문만 확인해도 쉽게 알 수 있음에도, 딥페이크 성착취 해결이라는 질문에 촉법소년 연령 하향이라는 답을 내놓는 것은 억지스러운 견강부회다."(더보기) 

✅(참고) 포괄적 성교육이란? : 여성과 남성의 신체 구조의 차이와 같은 생물학적 특징만을 다루는 것이 아닌, 인간의 생애에서 성과 관련된 모든 경험을 포괄하는 교육을 가리킨다. 유네스코(UNESCO)가 발표한 ‘국제 성교육 가이드’에서 권고한 교육과정이다. 신체에 대한 이해뿐 아니라 타인을 존중하고 이해하며 건강한 사회적 관계를 맺는 기술과 태도를 가르쳐야 한다는 교육관이다. (더보기)

⭕손지은 전교조 부위원장 : “성폭력과 젠더폭력의 가해자는 학생도 예외가 아니다. 남학생과 여교사의 관계는 아무리 나이차가 있어도, 아무리 교사-학생이라는 사회적 지위 차가 있어도 남성권력 하나로 뒤엎어 진다”, “타인의 존재도 소중하게 여기는 방법을 이제는 공교육에서 배워야 한다", “지금이라도 몸과 관계와 사회를 포괄하는 포괄적 성교육을 즉각 도입해야 한다. 그리고 이를 보장하는 법체계도 만들어야 한다.” (더보기)

❌울산 다세움 학부모 연합, 참사랑 아빠회, 울산 청년 희망 연대 등 16개 학부모·시민단체 연합 : “딥페이크 범죄에 대한 근본적인 예방법은 음란물을 만들지 않도록 경각심 및 거부감을 들게 하는 교육이어야지 포괄적 성교육은 아니다”,  “포괄적 성교육으로 성범죄를 줄일 수 있다는 근거는 없다”, “특히 포괄적 성교육은 편향적인 방법으로 젠더 갈등 등 부작용이 높아 대안으로 삼기는 부적절하다. (더보기)

⭕용혜인 기본소득당 의원 : "올해 1월부터 지난달 25일까지 검거된 딥페이크 피의자 387명 중 378명(97.6%)이 남성인 것으로 집계됐다“, "딥페이크 성범죄는 여성에 대한 성적 폭력이 만연한 한국 사회의 구조적 맥락에서 기인한다. 경찰이 성별 특성을 면밀히 파악하고 고려해 범죄 예방 대책을 수립할 필요가 있다.” (더보기)

❌이수정 경기대학교 범죄심리학과 교수 : "스토킹 처벌법의 피해자가 30%가 남성이에요. 그러니까 절대 남성이라고 안전하지 않습니다. 소아 성애자들 중에 남자 아이들을 대상으로 하는 그런 어떤 일탈적인 경향을 가진 사람도 많이 있습니다. 그래서 외국의 경우에 우리나라는 아직은 발견 안 됐는데 남자 아이들 음란물을 모아 놓은 사이트도 있어요. 그렇기 때문에 이게 무슨 남녀의 문제로 비화시키는 건, 사실은 정치적 의도가 있지 않는 이상 이렇게 남성 영역으로 갈 일이 아니에요." (더보기) 

⭕김성천 중앙대 법학전문대학원 교수 :  “디지털 성범죄 피해자가 청소년인지 성인인지 구분하기 어렵기에 통신감청이 필요하다”, “수사기관의 영장 적절성 검토, 법원의 영장심사, 영장 집행 통지 등 영장주의 기본 원칙을 지킨다면 인권 침해 요소는 덜 할 것." (더보기)

⭕이웅혁 건국대 경찰학과 교수 :  “딥페이크물은 해외 서버를 이용하기 때문에 피의자 검거도 유통 차단도 어렵다. 디지털 성범죄 수사기법은 제한되고 범죄가 고도화되고 있는 현실을 고려하면 통신감청은 필요하다” (더보기)

❌박주현 변호사 : 국민의 기본권 제한을 넘어, 통제하는 시대로 흘러가는 것 같다”, “통신(인터넷 회선)감청 영장을 법원으로부터 마구잡이로 발부받을 수 있는 법적 토대가 마련되는 것이어서, 입법에 신중해야 한다.” (더보기)

❌고대신문 : “자유를 소중히 여기는 국가는 감청을 아낀다. 미국, 영국에서 감청은 법원의 허가가 필요하며 사안이 국가 안보에 관련된 경우(미국), 테러 등 중대 범죄를 수사할 경우(영국)에만 가능하다. 독일과 프랑스는 감청 권한 남용을 막기 위해 엄격한 감독 체계를 갖추고 있다. 이 나라들은 감청이 야기할 자기 검열의 문제를 심각히 고려하는 것이다." (더보기)

⭕임종인 고려대 명예교수 : "국제사회가 20세기 최대 현안이었던 핵확산을 막기 위해 국제원자력기구(IAEA)를 발족했듯 오늘날 지구촌 과제로 떠오른 사이버 범죄 확산을 방지하기 위해서도 보다 강력한 권한과 결속력을 가진 국제기구를 만들 필요가 있다. 사이버 범죄엔 국경이 없지 않나. 현재 한·미 양국이 사이버 합동 훈련을 실시하고 인력도 활발히 교류하고 있는데, 앞으로 한·미 공조를 넘어 지구촌 단위의 협력도 강화해 나가야 한다. 이를 위해서는 사이버 보안과 AI 관련법의 조속한 제정도 못지않게 중요하다. 조만간 모든 분야에서 AI 탑재가 일상화될 텐데, 우리가 먼저 모델이 될 만한 법을 국제사회에 제시하면 하드웨어뿐 아니라 소프트웨어 측면에서도 선도적인 국가로 나아갈 수 있을 것이다.” (더보기)

⭕린다 토머스-그린필드 주유엔 미국대사 : "AI 기술이 빠르게 발전함에 따라 회원국들이 이 중요한 순간을 맞아 집단행동을 해야 할 긴급한 필요성이 있다" (더보기)