[초점] 머스크, AI로 만든 '가짜 해리스 영상’ 유포…‘AI 정치적 악용’ 논란 촉발

“카멀라 해리스 부통령은 인류 멸망을 부를 사람이다.”

일론 머스크 테슬라 최고경영자(CEO)는 28일(이하 현지시각) X에 올린 글에서 오는 11월 열리는 차기 미국 대통령 선거에 민주당 후보로 선출될 가능성이 큰 것으로 관측되고 있는 카멀라 해리스 부통령에 대해 이같이 비난을 퍼부었다.
머스크는 미국의 젊은 세대 사이에서 이른바 ‘기후 공포증’이 워낙 널리 퍼진 결과 조 바이든이 대통령으로 선출된 지난 2020년 선거에서 젊은 유권자들이 대거 참여했다는 해리스 부통령의 발언을 담은 영상을 공유하며 이같이 주장했다.

해리스가 인류 멸망을 초래할 대선 후보라는 주장 자체도 민주당 지지자들 사이에서 반발을 일으켰으나 더 심각한 문제는 머스크가 지난 26일에 올린 또 다른 해리스 관련 영상 때문에 불거졌다.
이 영상은 인공지능(AI) 기술에 기반한 이미지 합성 기술인 '딥페이크'를 이용해 만들어진 가짜 영상이었기 때문이다. 특정 인물의 얼굴 이미지를 합성하거나 특정인의 목소리와 고도로 비슷하게 조작한 음성을 활용한 것이 딥페이크 영상이다.

뉴욕타임스(NYT)는 “이 영상이 가짜인 사실을 잘 알면서도 머스크는 영상을 공유한 것으로 보인다”면서 표현의 자유를 그토록 강조해온 머스크가, 세계 최강 1인 미디어로 불릴 정도로 팔로어가 많은 인플루언서가 AI 기술을 이용한 가짜 영상을 유포한 것은 AI 기술이 앞으로 정치적으로 얼마나 악용될 수 있는지를 잘 보여주는 사례라고 지적했다.


NYT에 따르면 머스크가 자신의 X 계정에 공유하기 8시간 전에 문제의 이 딥페이크 영상을 올린 주역은 X에서 ‘미스터레이건USA(MrReaganUSA)’라는 아이디를 사용하는 보수 성향의 네티즌이었다.

그는 이 영상을 올리면서 딥페이크 기술로 합성된 패러디 영상임을 분명히 밝혔다.

그러나 머스크는 이 영상을 공유하면서 “대단한 영상”이라며 자신의 의견을 달았을 뿐 합성 영상이라는 사실은 밝히지 않았다.

이 가짜 영상에서 해리스는 “나는 민주당 대통령 후보다. 왜냐하면 조 바이든이 마침내 토론에서 그의 노망을 드러냈기 때문이다”, “나는 여성이자 유색인종으로서 다양성 중시 차원에서 발탁됐다”, “하지만 나는 국가를 운영하는 것에 대해서는 일자무식이다”라는 등의 발언을 했다.

머스크가 올린 이 영상은 현재까지 조회수가 9800만 회에 달할 정도로 선풍적인 인기를 누리고 있다.

그러나 NYT는 “X의 주인인 머스크가 이 같은 행동을 한 것은 합성된 콘텐츠를 공유하는 것을 금하는 X의 정책에도 정면으로 위반되는 것”이라고 지적했다.

차기 미국 대선이 100일 앞으로 다가온 가운데 AI를 활용한 딥페이크 영상을 비롯한 가짜 콘텐츠가 향후 선거에 심각한 악영향을 미칠 것이란 우려가 머스크의 사례에서 보듯 현실화됐다는 지적이 나오는 이유다.


해리스 선거대책위원회는 즉각 반발하고 나섰다.

해리스 선대위 대변인은 AP통신과의 인터뷰에서 “우리는 미국인들이 해리스 부통령이 제안하는 진정한 자유와 기회를 원하며, 머스크와 트럼프의 조작된 거짓말을 원하지 않는다고 믿는다”고 밝혔다.

민주당 소속의 에이미 클로버샤 미 상원의원도 X에 올린 글에서 “머스크와 X가 이 같은 영상에 조작된 AI 콘텐츠라는 사실을 적시하지 않은 것은 X 자체의 규정을 위반하는 것일 뿐만 아니라 가짜 AI 목소리와 조작된 이미지의 콘텐츠가 아무런 제약 없이 판치는 선거판을 낳게 될 것”이라고 우려했다.

AP는 “차기 대선이 다가옴에 따라 AI가 생성한 이미지나 오디오·비디오 클립 등이 정치를 어떻게 오도(誤導)하는지 잘 보여주는 사례”라면서 “고품질의 AI 프로그램에 대한 접근이 한층 더 쉬워진 상황에서 정치 영역에서 AI 기술을 어디까지 허용해야 하는지의 문제를 지방 정부와 소셜미디어 플랫폼 기업에만 맡기는 것으로는 부족하다는 점을 보여준다”고 지적했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com