이미지 확대보기
28일(현지시각) 유로뉴스에 따르면 이 같은 분석을 내놓은 곳은 MIT 부설 컴퓨터과학·인공지능연구소의 퓨처테크 연구그룹 소속 연구진이다.
MIT 연구진은 AI 기술을 적용할 경우 부정적인 결과가 예상되는 시나리오를 700가지 이상 집대성했다.
유로뉴스에 따르면 AI 기술이 초래할 가능성이 있는 700여 가지의 위험한 시나리오를 다섯 가지로 추리면 다음과 같다.
◇ 딥페이크로 인한 현실 파괴 가능성
MIT 연구진이 가장 먼저 꼽은 AI의 대표적인 위험성은 딥페이크 기술이다.
딥페이크란 딥러닝(deep learning)과 페이크(fake)의 합성어로 딥러닝 기술을 사용하는 첨단 AI 기반 이미지 합성 기술을 말한다.
연구진은 “딥페이크 기술이 갈수록 첨단화하고 이용하는 비용도 저렴해지면서 보급률이 높아질수록 이미 인류 사회가 직면하고 있는 가짜 뉴스 문제가 더 확산할 가능성이 크다”고 우려했다.
가짜와 진짜를 구별하기 어려울 정도로 기술이 발전함에 따라 개인의 필요에 맞게 자유자재로 이미지·영상·음성을 가짜로 만드는 것이 가능해지면서 가짜 뉴스나 가짜 정보가 더 양산되고 여론이 왜곡될 가능성이 과거보다 매우 높아졌다고 연구진은 지적했다.
연구진은 “특히 최근 프랑스에서 열린 총선거에서 극우정당들이 AI 기술을 이용한 가짜 뉴스나 가짜 정보를 정치적인 목적으로 대거 유통시킨 사례가 대표적”이라고 밝혔다.
◇ AI에 대한 지나친 의존성
AI 기술이 획기적으로 발전하면서 AI 기술이 지닌 능력이나 효용가치를 실제보다 크게 인식하는 문제도 크게 우려되는 사안이라고 연구진은 지적했다.
이런 인식이 확대되면 AI 기술에 대한 인간의 의존성이 과도하게 높아질 가능성이 크기 때문이라는 것.
연구진은 특히 AI 기술을 마치 만병통치약처럼 인식하는 경향이 확대될 가능성에 대해 우려했다.
연구진은 “심지어 AI 기술에 대한 의존성이 커진 결과 사람들 사이의 소통이 줄어들고 인간 사이의 관계마저 소원해질 우려가 있다”고 밝혔다.
◇ 인간의 자유의지 박탈
같은 맥락으로 연구진은 AI 기술의 첨단화와 인간의 AI 의존성이 비약적으로 커지는 문제는 인간의 자유의지를 박탈하는 결과를 낳을 가능성이 있다고 우려했다.
연구진은 “AI 기술이 아무리 발전하더라도 인간만이 접근할 수 있는, 의사결정을 내릴 수 있는 복잡한 문제에 대해서는 한계가 있을 수밖에 없다”면서 “그럼에도 AI 기술을 과신해 거의 모든 문제의 해결을 AI에 의존하는 경향이 나타날 우려가 있다”며 이같이 지적했다.
좀 더 근원적으로는 AI에 의존하는 경향이 과도하게 늘어난 결과, 자립적으로 또는 비판적으로 사고하는 인간 고유의 능력이 저해될 가능성도 있다고 연구진은 예상했다.
◇ 인간의 이해관계와 상충
AI 기술의 획기적인 발전과 그에 비례해 과도해지는 인간의 의존성은 AI로 하여금 독자적인 판단을 내리게 하고 목표까지 독자적으로 설정할 수 있게 해 인간의 이해관계에 역행하는 결과를 초래할 수 있다는 지적도 연구진은 내놨다.
인류에게 해를 끼치거나 인류 멸망을 초래할 수 있는 문제에 대해서도 AI가 인간의 통제에서 벗어나 마음대로 결정을 내릴 가능성을 배제할 수 없다는 얘기다.
공상과학 영화에서 종종 묘사하는 것처럼 인간이 AI의 역기능 때문에 AI를 차단하려 해도 AI가 이에 저항해 인간에 맞서는 결정을 하고 행동을 저지를 개연성이 있다는 뜻이다.
◇ AI가 자의식 가져도 모를 수 있다
연구진은 AI가 최극단적으로 발전해 궁극적으로 인간만이 갖고 있는 자의식(自意識)까지 갖추게 될 경우 재앙적 상황이 올 수 있다고 우려했다.
자의식이 생긴다는 것은 인간만이 느끼는 감정까지 느끼게 되는 수준으로 AI가 발전한다는 뜻으로, 이런 상황이 실제로 펼쳐지면 자의식이 있는 AI가 인간의 지시에 따르지 않고 인간에 반발하는 상황도 벌어질 수 있다는 얘기다.
연구진은 “AI가 자의식을 가질 정도로 극단적으로 발전하더라도 막상 인간이 그것을 기술적으로 확인하는 것이 쉽지 않을 수 있다는 점도 매우 우려할 만한 문제”라고 덧붙였다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
