“딥페이크 불법 선거운동 막아라”… 62명 투입 상시 모니터링

국민일보 2024. 2. 8. 04:07

총선 D-62… 선관위 사이버팀
유튜브·포털·트위터·페북 등
감별반 꾸려 허위·비방 적발 나서
악의적 정황땐 수사기관 고발

지난 6일 오전 경기도 과천 중앙선거관리위원회 3층 사이버조사과 지원단실. 직원 7명이 모니터를 뚫어지게 쳐다보고 있었다. ‘허위사실 비방 AI(인공지능) 딥페이크 특별대응 모니터링반’ 전담 요원들이다.

이들은 유튜브와 같은 영상 플랫폼부터 유명 포털 사이트, 트위터·페이스북 등을 쉴 새 없이 모니터링하고 있었다. AI 딥페이크 작업물을 찾아내기 위해서다. 독서실처럼 조용한 사무실에선 마우스 휠을 빠르게 굴리거나 클릭하는 소리만이 반복해서 들렸다. 선관위는 지난달 11일부터 AI 모니터링 전담 요원과 AI 전문가로 구성된 총 62명의 감별반을 꾸려 상시 모니터링을 벌이고 있다.

선관위는 딥페이크 활용 선거운동이 전면 금지된 지난달 29일부터 이날까지 여러 건의 영상을 적발해 조치했다. 여기엔 정치인 A씨가 상대 진영에 있는 다른 정치인에게 부정적인 말을 하는 동영상 등이 포함된 것으로 알려졌다. 또 정치인 B씨가 자신을 조롱하는 말을 하는 딥페이크 영상도 적발됐다.

선관위가 3단계에 걸쳐 딥페이크 선별 작업을 벌이고 있지만, 여전히 한계도 있다. 딥페이크 감별은 기존에 알려진 유형에 대해서만 탐지할 수 있기 때문이다. 새로운 유형의 딥페이크 기술이 개발되면 기존 탐지 프로그램으로 대응하기 어렵다.


https://v.daum.net/v/20240208040724788
“딥페이크 불법 선거운동 막아라”… 62명 투입 상시 모니터링

“딥페이크 불법 선거운동 막아라”… 62명 투입 상시 모니터링