1달러 내고 1분이면 음란물 제작… '딥페이크 봇' 만들긴 쉽고 처벌은 어렵다

한국일보  2024. 8. 30. 04:31

[텔레그램 초대방 타고 들어가니]
사진 넣고 금세 합성 사진 '뚝딱'
다크웹서 10달러면 봇 제작 가능
봇 제작자·이용자 처벌까진 난항
"배포 목적 없어도 형량 높여야"

"우리는 궁극적인 리얼리즘을 추구하는 이미지 처리 봇(Bot)입니다."

'딥페이크(인공지능 기반 이미지 합성)' 범죄가 심각한 사회문제로 떠오른 가운데 사진을 넣으면 자동으로 음란물을 합성해주는 텔레그램 프로그램인 '딥페이크 봇' 역시 논란이 되고 있다. 짧은 시간에 많은 합성물을 만들 수 있는 데다 제작 자체를 사람이 아닌 프로그램이 실행하는 특성 때문에 처벌에 한계가 있는 탓이다. 경찰은 29일 현재 이용자 22만 명에 달하는 봇 등 약 8개의 봇을 확인해 내사(입건 전 조사)에 착수한 상태지만, 수사가 쉽지 않을 거란 우려가 나온다.

이날 한국일보가 소수에게만 공유되는 초대 링크를 타고 텔레그램 대화방에 입장해 딥페이크 봇 메커니즘을 확인해보니, 예상보다 더 쉽게 합성물을 만들 수 있었다. 딥페이크 봇 접근을 가능케 해주는 단체방에 들어가면 이용 방법이 상세히 제시된다. ①약관에 동의하고 ②사진 합성에 사용되는 포인트인 1크레디트를 받는다. 크레디트는 딥페이크봇에서 사용되는 화폐 단위로 1달러(약 1,300원) 충전에 사진 두 장 정도를 합성할 수 있는 크레디트가 부여돼 가격도 높지 않은 편이다. ③이후 봇과의 개별 채팅방이 열리면 사용자가 원하는 사진을 올리고 ④가격표를 참고해 수영복 등 하나를 고르면 ⑤약 1분 뒤 합성된 나체 사진을 받아볼 수 있다.

초대 링크만 있다면 누구나 음란물을 뚝딱 만들 수 있는 구조인 것이다. 봇을 이용하기 전 '미성년자의 이미지를 업로드하고 처리하는 것을 엄격히 금지한다'는 약관에 동의해야 하지만 허울뿐인 안내에 불과하다. 실제 기자가 인공지능(AI)으로 실존하지 않는 미성년자의 사진을 형성해 등록했지만 걸러내는 장치는 없었다.

딥페이크 봇은 오픈소스 AI를 활용해 만들어지는 경우가 많은데, 제작과 배포가 손쉬워 피해가 걷잡을 수 없이 커질 수 있다....제작 비용도 저렴하다. 최 교수는 "월정액 1~10달러 수준으로 봇을 만들 수 있을 것"이라고 내다봤다. 반면 수사는 어렵다. 해외에 서버를 두고 있는 텔레그램은 국내 영장의 효력이 미치지 않아 임의 협조를 구하는 게 보통이다....전문가들은 해외 공조를 강화하고 딥페이크 음란물의 처벌 수위를 높여야 한다고 입을 모았다.


https://v.daum.net/v/20240830043128910
1달러 내고 1분이면 음란물 제작… '딥페이크 봇' 만들긴 쉽고 처벌은 어렵다

1달러 내고 1분이면 음란물 제작… '딥페이크 봇' 만들긴 쉽고 처벌은 어렵다