딥페이크는 디지털 집단 성폭행이다[데스크의 눈]

이데일리  2024. 8. 28. 06:07

AI 합성 사진·영상도 실제 촬영물처럼 처벌 필요
경각심 갖고 디지털 성범죄 뿌리 뽑는 계기 돼야

 2004년 경남 밀양시에서 집단 성폭행 사건이 발생했다. 44명의 고등학교 남학생들이 중학생을 포함한 미성년자 여학생 5명을 무려 1년간 성폭행한 것으로 드러났다. 망을 보거나 촬영을 한 남학생들까지 포함하면 가해자는 119명에 달한다. 20년 전 우리나라를 발칵 뒤집어 놓았던 성폭행 사건이다.

2024년 모바일 메신저 텔레그램에서 딥페이크 성착취물 사건이 터졌다. 단체 채팅방 이용자들이 지역·학교별로 지인 여성들의 사진이나 영상을 합성한 음란물을 공유한 것으로 파악됐다. 대학교에 이어 중·고등학교에서도 비슷한 일이 발생했다. 피해자의 상당수는 미성년 여학생들이다. 각각의 채팅방 참여자는 1000명이 넘는다.

한 유명 딥페이크 성착취물 채팅방은 전 세계 참여자가 22만명에 달한다고 한다. 여성 사진을 올리면 인공지능(AI) 봇이 다양한 수위의 나체 사진으로 만들어 준다고 한다. 채팅방 참여자 가운데는 한국인도 상당 비중으로 있을 것으로 추정된다. 길에서 마주치는 택시만큼이나 성범죄자가 우리 곁에 돌아다니고 있다는 말은 그래서 나온다.

딥페이크 기술을 이용한 사진과 영상은 진짜와 구별하기 어려울 정도로 정교하게 만들어지며, 인터넷을 통해 빠르게 확산된다. 이 때문에 피해자가 느끼는 고통은 이루 말할 수 없이 크다. 우울과 불안 증세 등을 겪다 자살 충동을 느끼는 경우도 있다. 이런 점에서 지금 텔레그램에서 일어나고 있는 딥페이크 성착취물 공유는 집단 성폭행이나 다름없다.

윤석열 대통령은 27일 딥페이크 성착취물을 ‘명백한 범죄 행위’로 규정하고 강력한 대응을 요구했다. 그러면서 철저한 수사와 건전한 디지털 문화 교육을 주문했다.


https://v.daum.net/v/20240828060751476
딥페이크는 디지털 집단 성폭행이다[데스크의 눈]

딥페이크는 디지털 집단 성폭행이다[데스크의 눈]

 

딥페이크 공포에 "수익 포기"... 사진 작가들도 인스타 다 닫았다

한국일보  2024. 8. 28. 04:32

일반 이용자들 계정 해킹 확인법 공유 
10대 딥페이크 성범죄 65.4%→73.6%
"왜 n번방 때 바로잡지 않았나" 비판

지인 얼굴과 음란물을 합성해 만든 '딥페이크' 성범죄 공포가 확산하면서 사진작가와 모델들이 수익 활동을 위해 올린 사회관계망서비스(SNS) 게시물을 직접 삭제하거나 비공개처리 하고 있다. 일반 SNS 이용자들은 해킹 여부를 확인하는 방법을 서로 공유하고 있다. 시민 불안이 높아지면서 수사당국도 특별 단속에 나섰다.

27일 인스타그램 등에는 인물 사진을 내리거나 흐리게 처리하겠다는 사진작가 게시글들이 공지되고 있다.

자신의 사진이 악용될까 걱정하면서도 지우지 못하는 모델들도 있다. 프리랜서 모델 황모씨는 "계정을 비공개로 바꾸고 싶어도 게시글 대부분이 광고, 협찬이라 계약 조건 때문에 어쩔 수가 없다"고 애를 태웠다.

상황이 심각해지자 경찰청 국가수사본부는 28일부터 7개월간 딥페이크 성범죄 특별 단속을 실시해 제작부터 유포까지 철저히 추적, 검거하겠단 방침을 내놨다.....지속적으로 재생산·유포되는 딥페이크 범죄 특성상 피해자들이 받는 고통이 큰데도 수사와 처벌은 상대적으로 느슨해 사태를 키웠다는 지적도 나온다.


https://v.daum.net/v/20240828043212317
딥페이크 공포에 "수익 포기"... 사진 작가들도 인스타 다 닫았다

딥페이크 공포에 "수익 포기"... 사진 작가들도 인스타 다 닫았다