AI, 인류 존재 위협할 괴물인가...엇갈리는 두 거장의 시각

인공지능은 결국 인류의 존재를 위협할 것인가? 올해 노벨 물리학상과 화학상을 휩쓴 인공지능 관련 연구를 두고 정반대의 목소리가 대립하고 있다.
올해 노벨물리학상을 수상한 제프리 힌턴 캐나다 토론토대 컴퓨터학과 교수, 인공지능 분야의 세계적인 석학 얀 르쿤 뉴욕대 교수 등과 함께 인공지능의 대부 중 한 명으로 불리는 요수아 벤지오 캐나다 몬트리올대 교수는 13일(현지시각) ‘야후 파이낸스’와 인터뷰를 통해 “우리는 현재 우리보다 더 강력한 괴물을 만들고 있다”고 경고했다.

신경망과 딥러닝 알고리즘의 개척자 중 한 명인 벤지오는 인터뷰에서 “인공지능은 힘을 부여하고, 그 힘을 통제하는 사람은 인간 수준이든 그 이상이든 매우 강력할 것”이라며 “인공지능이 경제적, 군사적, 정치적 지배력을 위험한 방식으로 행사하기 전에 인류는 특별한 조치를 취해야 한다”라고 강조했다.
그의 이런 경고는 투자자들이 여전히 인공지능에 큰 관심을 보이고 있으며, 올해 들어 인공지능 관련 주가들의 상승폭이 신기록을 계속 경신하고 있는 가운데 나온 것이어서 더욱 주목을 끈다.

또한 벤지오는 “인간 수준의 인공지능이 잘못 이용되면 매우 위험할 수 있다”라며 “인공지능 도구는 테러리스트들이 활용할 가능성이 높기 때문에 민주주의를 파괴하려는 국가 또는 비국가 행위주체들에게 도움을 줄 수도 있다”라고 경고했다.

이어 그는 “많은 과학자들이 인공지능 시스템을 훈련하는 방식에 대한 지적을 하고 있다”라며 “우리는 인공지능 시스템이 자율성을 확보해 자체 보존 목표를 가지게 되고, 그 결과로 시스템 전체가 인간의 통제를 벗어날 가능성이 전혀 없다고 확신할 수 없다”라고 지적했다.

한편, 얀 르쿤 교수는 이런 지적과 관련해 13일 ‘월스트리트저널’과의 인터뷰에서 “인공지능이 인류의 존재를 위협할 수 있다는 우려는 ‘완전한’ 소설 수준의 이야기”라며 일축했다.

그는 “인공지능이 실제로 지능이 되어가는 과정에 있다고 생각하지 않는다”라며 “인공지능에 대한 통제에 대해 생각할 시간에 인공지능에 기반한 스마트 시스템 설계에 시간을 투자하는 것이 더 현명한 일”이라고 주장했다.

르쿤은 현재의 대규모언어모델(LLM)이 지속적인 기억, 추론, 계획 및 물리적 세계에 대한 이해와 같은 몇 가지 수준에서 능력이 부족하며, 이런 측면에서 현재의 인공지능은 반려 고양이의 수준을 넘어서지 못하고 있다고 지적했다.

그에 따르면 현재의 제미나이, 코파일럿 같은 인공지능 언어 모델은 “인공지능이 언어를 조작할 수는 있지만 똑똑하지는 않다는 것을 보여줄 뿐이며 진정한 일반 인공지능(AGI)으로 이어지지 않을 것”이라고 진단했다.


이용수 글로벌이코노믹 기자 piscrait@