'검찰총장 딥페이크' 깜빡 속을 뻔…당돌한 평검사가 만든 이유

중앙일보 2024. 2. 12. 06:00

“올해 제 목표는 히말라야 16좌를 완등하는 것입니다. 구성원들도 함께 등반하면 좋겠습니다.”

이원석 검찰총장이 ‘히말라야를 오르겠다’는 영상이 지난달 9일 검찰 내부망에 올라왔다. 차분한 평소 말투 그대로였다. ‘에베레스트 등정에 앞서 기자들의 질문에 대답하는 모습’이라는 제법 그럴듯한 사진도 함께였다.

그러나 반전. 영상은 이 총장의 실제 신년사 영상에 가짜 음성을 합성한 딥페이크였다. 사진도 마찬가지였다. ‘검찰총장 딥페이크’를 제작한 주인공은 놀랍게도 3년차 평검사인 임동민 서울중앙지검 검사(31·변호사시험 8회)였다.

임 검사는 “일반인도 20분이면 인공지능(AI) 총장을 만드는 시대인 것을 검찰 구성원들에게 알리고 싶었다”고 했다. 지난 2일 서울 서초구 서울중앙지검에서 임 검사를 만났다. 인터뷰에 앞서 여러 선배 검사들이 “똑똑한 친구니 잘 부탁한다”는 연락을 보내왔다.

Q : 검찰총장 딥페이크를 만든 계기는.
A : 해외 웹사이트에서 AI에게 총장님 음성 20분 분량을 학습시켰더니 약 20분 만에 가짜 영상을 만들 수 있었다. 우리가 수사 현장에서 만나는 증거들이 언제든 허위일 수 있다는 경각심을 환기하고자 ‘모두가 아는 인물이 누구일까’ 생각하다가 불경스럽게도 총장님을 대상으로 했다. 내부망에는 총장님 허락 받고 올렸다(웃음).

Q : 검찰 선배들 반응은 어땠나.
A : 사실 걱정이 많았다. 어떻게 초임 검사가 회장님(총장)으로 장난을 치냐고 하실까 봐…. 그런데 한 분도 그러지 않았다. 대부분의 선배들이 ‘어려운 주제를 간단하게 설명해줘서 고맙다’, ‘나도 해보게 사이트를 알려달라’ 등 긍정적으로 받아주셨다.

Q : 어떤 국내법이 필요하다고 보나.
A : AI 사업자에게는 ‘이 생성물은 AI가 만든 것’이라고 알아보기 쉬운 워터마크를 표시할 의무를 부과하고, 이용자에게는 명예훼손·타인사칭·범죄이용 등 ‘나쁜 목적으로 AI를 써선 안 된다’고 몇몇 행위를 제한하는 특별법 내지는 임시법이다. 두 응급조치만으로도 AI와 실제를 구분하기 쉬워진다. 사업자는 간편한 기술적 조치를 통해 손쉽게 표시의무를 준수할 수 있고, 이용자는 명확히 금지된 행위를 제외하고는 자유롭게 행동할 수 있다.


https://v.daum.net/v/20240212060055030
'검찰총장 딥페이크' 깜빡 속을 뻔…당돌한 평검사가 만든 이유

'검찰총장 딥페이크' 깜빡 속을 뻔…당돌한 평검사가 만든 이유