AI 허위 정보가 아시아 선거판 뒤흔든다

인공지능(AI)이 생성한 가짜영상과 이미지가 아시아 각국의 선거에 영향을 미치고 있다. 점점 더 정교해지는 AI 기술로 인해 유권자들이 진위를 구별하기가 갈수록 어려워지고 있다.

18일(현지시각) 국제선거제도재단에 따르면, 지난해 아시아 11개국을 포함해 전 세계 78개국에서 국가 단위 선거가 실시됐다. 이 중 최소 8개 아시아 국가에서 정치인의 AI 생성 이미지, 동영상, 음성이 확산된 것으로 확인됐다.

스리랑카에서는 지난해 9월 대선을 앞두고 도널드 트럼프가 좌파 성향의 아누라 쿠마라 디사나야케 후보를 지지하는 듯한 영상이 확산됐다. 팩트체크 단체는 2017년 트럼프 인터뷰 영상에 AI 음성을 입힌 가짜라고 밝혔다. 디사나야케는 대선에서 승리했다.

인도에서는 인기 배우 란비어 싱의 과거 인터뷰 영상이 AI로 조작돼 확산됐다. 원래 나렌드라 모디 총리를 지지하는 발언이 야당 지지 발언으로 바뀌었다. 현지 팩트체크 기관은 선거 기간 소셜미디어 콘텐츠의 약 2%가 AI 생성물이었다고 밝혔다.
대만 총통선거에서도 집권 민주진보당의 라이칭더 후보가 "야당이 여론의 주류"라고 말하는 듯한 조작 영상이 퍼졌다. 타이완팩트체크센터는 부정어가 삭제돼 의미가 반전됐다고 지적했다.

일본에서도 지난해 10월 중의원 선거를 앞두고 기시다 후미오 전 총리의 AI 음성 영상이 유튜브에 올라왔다. 올해는 필리핀(5월), 일본(7월), 싱가포르(11월)에서 선거가 예정돼 있어 AI 가짜정보 확산이 우려된다.

에치젠 이사오 일본 국립정보학연구소 교수는 "이미지보다 동영상이 더 주목을 끌 수 있다"며 "AI 기술 발전으로 가짜 동영상이 더욱 정교해지고 있어 큰 위협이 될 수 있다"고 경고했다.

영국 앨런 튜링 연구소는 "AI 가짜정보가 선거 결과에 직접적 영향을 미쳤다는 증거는 부족하다"면서도 "정치적 담론과 양극화에 영향을 미치고 있다"고 분석했다.

각국은 대응에 나서고 있다. 미국의 오픈AI는 트럼프, 해리스 부통령 등의 딥페이크 이미지 생성 요청 25만 건을 거부했다. 유럽연합도 유럽의회 선거를 앞두고 AI 가짜정보 단속을 강화하고 있다.

전문가들은 AI 기술의 발전 속도를 고려할 때 가짜정보 탐지와 차단을 위한 국제적 공조가 시급하다고 지적한다. 유권자 교육과 함께 AI 기업들의 자율규제도 강화돼야 한다는 의견이다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com