저명학자 하라리, "AI와 채팅할 때 그것이 인간이 아니라는 것 알아야"

세계적 역사학자이자 철학자인 유발 노아 하라리가 AI가 정치와 경제에 더 큰 영향력을 행사하는 가운데, 인간을 가장해 잘못된 정보를 퍼뜨리는 봇들을 규제해야 한다고 주장했다.

베스트셀러 '사피엔스', '호모 데우스'의 저자이자 최근 출간된 '넥서스'를 홍보하기 위해 일본을 방문한 하라리는 6일(현지시각) 닛케이와의 인터뷰에서 인공지능 시대의 위험성과 도전 과제에 대해 논의했다.

하라리는 인류가 AI 혁명이라는 엄청난 도전에 직면해 있으며, 이 도전에 대처하기 위해서는 인간 간의 협력과 신뢰가 필요하다고 강조했다. 그는 "트럼프 대통령의 정책들이 어떤 목적에서는 좋을 수도 있지만, 분명 사람들 사이의 신뢰를 파괴하고 있다"며 "위기의 순간에 인류를 하나로 묶는 지도자가 있는 대신, 인류를 분열시키는 지도자가 있다는 것은 지극히 불행한 일"이라고 비판했다.

그는 트럼프가 대표하는 정치 모델이 더 많은 나라로 확산되고 있다는 점을 우려하며, 이러한 모델이 세계에 제시하는 비전은 "강자가 통치하고 약자가 강자에게 복종해야 한다"는 것이라고 지적했다.
하라리는 이런 질서가 모든 나라가 더 강한 이웃 국가를 끊임없이 두려워하게 만들어 "국방 예산의 증가와 의료와 교육의 쇠퇴, 점점 더 많은 전쟁"을 야기할 것이라고 경고했다.

AI 시대의 도전에 관해 하라리는 "우리는 인간이 아닌 것, 즉 우리보다 언어와 수학을 더 잘 통달한 인공지능을 창조했다"며 "우리가 점점 더 인간이 아닌 지능에 의해 만들어진 현실 속에서 살게 될 때 세상은 어떻게 될까? 이것이 우리가 직면한 가장 큰 질문"이라고 말했다.

하라리는 AI가 민주주의를 강화하기 위한 두 가지 대책을 제시했다. 첫째, '가짜 인간'을 금지하는 것이다. 그는 "챗봇과 봇은 자신을 AI로 명확하게 식별하는 경우에만 인간과 대화할 수 있어야 한다"고 주장했다.

둘째, 기업이 알고리즘의 행동에 대해 책임을 져야 한다는 것이다. 그는 "소셜 미디어 회사들은 종종 '표현의 자유'를 언급하지만, 실제 문제는 인간이 무엇을 말하느냐가 아니라 알고리즘의 결정"이라고 지적했다.

하라리는 AI와 사이버 공간의 부상으로 '실리콘 커튼'이 세계를 나눌 수 있다는 우려도 표명했다. "1990년대에는 월드 와이드 웹이라는 단일 웹이 모든 사람을 연결할 것이라는 아이디어가 있었지만, 이제 주요 은유는 '고치'가 됐다"며 "각자 다른 정보 고치 안에서 완전히 다른 현실을 경험하게 된다"고 설명했다.

미국과 중국의 AI 기술 독점에 대해서도 경계심을 표했다. "두 국가 또는 소수의 국가만 AI 기술을 독점한다면 매우 위험할 것"이라며 "19세기 산업혁명 시기처럼 먼저 기술을 확보한 소수의 국가들이 세계 경제와 정치 시스템을 지배할 것"이라고 경고했다. 그는 일본이 유럽연합, 인도, 브라질 등과 협력한다면 독립적인 AI 강국이 될 수 있다고 조언했다.

한편 하라리는 AI의 긍정적 잠재력도 언급했다. "AI는 새로운 약을 발명하고, 기후 변화에 대처하는 데 도움이 될 수 있다"며 "매년 100만 명 이상이 인간의 실수로 인한 자동차 사고로 사망하는데, AI가 자동차를 운전한다면 많은 생명을 구할 수 있다"고 말했다. 그러나 "AI는 완전히 예측할 수 없는 외계 지능"이기 때문에 큰 위험도 있다고 덧붙였다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com