죽은 정치인도 조작해내는 AI, 언어-체제 막론 선거판 흔든다 [글로벌 포커스]

동아일보 2024. 2. 24. 01:42

슈퍼 선거의 해, AI 딥페이크 ‘창과 방패’ 싸움
인니-인도, 딥페이크 영상 기술로 사망한 정치인 등장시켜 지지 호소
비키니 영상-가짜 시위대 모습 등… 악의적으로 만든 콘텐츠도 확산
조악한 수준의 영상-사진이라도 상황따라 진짜로 여겨지기 쉬워
20개 빅테크 공동대응 협약했지만… 비영어권에선 실효성 없단 지적도

“2024년 선거 승리를 축하드립니다. 나는 여러분 모두가 투표하러 나올 것이라고 확신했습니다.”
8일 치러진 파키스탄 총선의 개표 결과가 속속 나오고 있던 9일 저녁. 임란 칸 전 총리의 소셜미디어 X(옛 트위터) 계정엔 그의 승리 연설 영상이 올라왔다. 칸 전 총리는 자신만만한 목소리로 그가 이끄는 정당 파키스탄정의운동(PTI)이 다수 의석을 차지했다고 선언했다. 하지만 이때 그는 연설은커녕, 영상을 찍으러 나올 수조차 없었다. 감옥에 갇혀 있었기 때문이다. 그리고 영상 왼쪽 상단엔 ‘네 번째 공식 AI(인공지능) 음성’이란 안내가 나와 있었다. 수감 중인 정치인이 AI로 자신을 대신할 ‘가짜 임란 칸’을 만들어 선거에 활용한 것이다.

2024년은 이른바 ‘슈퍼 선거의 해’다. 한국을 포함해 76개 나라에서 약 42억 명이 전국 단위 선거를 치른다. 특히 올해는 AI가 선거 유세에 적극적으로 사용된다는 측면에서, 선거 흐름 자체가 바뀌는 변곡점이 될 수도 있다. 한국은 여야 합의로 선거에 AI를 활용하지 않기로 했지만, 언어권과 정치 체제를 가리지 않고 AI가 진실에 기반해 유권자의 선택을 이끌어내야 하는 민주주의 선거의 본질을 위협할 수도 있다. 

AI가 선거에 미치는 영향은 갈수록 커지는 분위기다. 국제인권단체 프리덤하우스의 지난해 10월 보고서에 따르면 2022년 6월부터 지난해 5월까지 1년 동안 적어도 16개 국가에서 딥페이크 등 생성형 AI를 이용해 허위정보를 만들고 퍼뜨렸다.....소셜미디어와 생성형 AI 개발사들을 비롯한 20개 글로벌 빅테크들은 16일 독일 뮌헨안보회의(MSC)에서 AI를 악용해 선거에 영향을 끼치는 행위에 공동 대응하기로 합의했다....하지만 합의문에 정작 중요한 “딥페이크 콘텐츠를 금지하거나 삭제해야 한다”는 등의 문구는 담기지 않았다. 안 그래도 모호한 합의문이 구속력까지 갖추지 못했다는 지적도 나온다.


https://v.daum.net/v/20240224014216219
죽은 정치인도 조작해내는 AI, 언어-체제 막론 선거판 흔든다 [글로벌 포커스]

죽은 정치인도 조작해내는 AI, 언어-체제 막론 선거판 흔든다 [글로벌 포커스]