닫기

글로벌이코노믹

AI는 인간의 친구 낙관론 펼친 게이츠도 '종말' 염려... 미발생 사실 실제 일처럼 보이게 하는 기술 급발전

공유
0

AI는 인간의 친구 낙관론 펼친 게이츠도 '종말' 염려... 미발생 사실 실제 일처럼 보이게 하는 기술 급발전

일어나지 않은 사실을 실제 일처럼 보이게 하는 기술 급속히 발전

'AI 낙관론'을 펼치고 있는 빌 게이츠조차 실리콘밸리가 세상의 종말을 일으킬 것이라고 우려를 표명했다. 자료=윈도우즈센트럴이미지 확대보기
'AI 낙관론'을 펼치고 있는 빌 게이츠조차 "실리콘밸리가 세상의 종말을 일으킬 것"이라고 우려를 표명했다. 자료=윈도우즈센트럴
[글로벌이코노믹 김길수 기자] "인공지능(AI)은 인간의 친구가 될 수 있다"며 'AI 낙관론'을 펼친 것으로 알려진 마이크로소프트 빌 게이츠조차 최근 "실리콘밸리가 세상의 종말을 가져올 것"이라며 염려하는 것으로 알려졌다.

AI에 의해 유명 여배우와 포르노 영화를 합성하는 '가짜 포르노'의 탄생과 2016년 미국 대통령 선거에서 테크놀로지(기술) 기업이 만들어 낸 가짜 뉴스가 얼마나 많은 사람들에게 영향을 주었는가는 대부분의 사람들도 알고 있다.
또 실제로는 일어나지 않았던 사실을 마치 실제로 일어난 것처럼 보이게 하는 기술은 급속히 발전하고 있으며 이러한 기술을 이용한 군비 경쟁이 가속화하고 있다는 사실도 충분히 체감할 수 있다.

이러한 상황이 가속화하면서 기술 기업이 스스로의 힘을 컨트롤할 수 없게 되었을 때, 이들이 만나는 것은 세상의 상황을 예기치 않게 움직임으로써 대참사를 일으킬 수 있다는 게 빌 게이츠의 우려다.

2016년 미국 대선 때는 소셜 미디어를 중심으로 가짜 뉴스가 만연해 선거에 큰 영향을 미쳤다. 이후 몇몇 플랫폼을 중심으로 회한의 뜻을 보이며 가짜 뉴스 박멸을 위한 움직임도 있지만 아직도 법적으로 SNS를 완전히 규제할 수 없는 것이 현실이다.

동시에 기술을 이용해 전력망을 혼란시키고 자동차를 해킹하며, 정품과 구별할 수 없는 동영상이나 오디오를 전 세계에 퍼뜨리는 사람이나 조직이 존재하는 한편, 기술 기업이 이들의 위협에 대항할 한 힘이 없다는 것 또한 현실이다. 다시 말해 불과 수십 년에 걸쳐 큰 힘을 가질 수 있었던 실리콘 밸리를 중심으로 하는 기술 기업들은 그 영향을 전 세계 다방면으로 제공하면서도 그 힘을 완전히 제어하지 못하고 있는 것이다.

빌 게이츠는 '지금 당신을 가장 두려워하게 하는 위협은 무엇인가?'라는 미국 인터넷 매체 '액시오스(Axios)'의 질문에 "작은 조직이 보유한 기술이 사람들에게 얼마나 피해를 줄 수 있는지 항상 품고 있는 의문"이라며 "작은 조직이 핵무기나 생화학 테러, 사이버 무기에 접속할 수 있게 될지도 모르며, 핵무기라면 수백만명을, 바이오 테러라면 수십억명이 영향을 받을 것이다. 이것이 위협이다"고 답했다.

미시간 대학 'Center for Social Media Responsibility'의 과학 기술자이며 2016년의 가짜 뉴스 위기를 예측했던 아비브 오베디아(Aviv Ovadya)는 "최악의 사태는 일어나지 않았지만 가짜 뉴스의 확산은 가속화하고 있다"고 우려했다.
기계 학습이나 AI 기술의 진보로 일어나지 않은 사실을 실제로 일어난 것처럼 보이게 하는 기술은 이미 현실화 됐으며, 지금까지는 인간의 손으로 수정해야 했던 것들이 오픈 소스 소프트웨어를 사용해 버튼 하나로 누구나 손쉽게 수행하게 됐다. 오베디아는 "이처럼 사실을 만들고 바꾸는 기술을 누구나 사용할 수 있게 되었을 때가 상황이 급변할 때"라는 견해를 나타냈다.

2016년 어도비(Adobe)가 'Photoshop for audio'를 발표하고, CGI(computer-generated imagery) 업체가 현실의 인간과 구분할 수없는 캐릭터를 만들어 내는 것을 통해 사실을 왜곡하는 해킹을 위한 툴은 더욱 정교하게 진화하고 있다. 그리고 그 진보는 항상 남용의 가능성을 키우고 있다.

기술이 폭주하고 최악의 사태가 일어나기 전에 기업 스스로 그 영향을 컨트롤할 수 있도록 노력하거나 정부가 강력하게 규제해야 할 필요성이 어느 때보다 강조되고 있다.


김길수 기자 gskim@g-enews.com