세계경제포럼 특별회의, ‘AI 규제’ 도마에 오르나

인공지능(AI) 기술이 하루가 멀다 하고 빠르게 발전하면서 정책 결정자들의 고민도 커지고 있다. AI 기술이 산업 전반의 생산성을 끌어올려 인류의 삶을 윤택하게 하는 핵심 기술로 떠오르고 있지만, 그에 비례해 AI로 인한 부작용도 덩달아 커지고 있기 때문이다.

28일(현지시각) 사우디아라비아 리야드에서 막을 올리는 세계경제포럼(WEF) 특별회의에서도 AI 기술이 주요 의제 중 하나가 될 전망인 가운데, AI 규제에 대한 좀 더 진중하고 중요한 논의가 진행될 가능성이 커지고 있다.
앞서 지난 1월 스위스 다보스에서 열린 연초 포럼에서도 AI는 산업 및 경제 전반에 새로운 혁신을 가져올 기술로 주목받았다. 글로벌 리더들은 생성형 AI를 둘러싼 불확실성과 모두를 위한 책임감 있고 유익한 결과를 보장하기 위한 강력한 AI 거버넌스 프레임워크의 필요성을 인정하고 ‘4차 산업혁명 센터(C4IR)’라는 AI 거버넌스 동맹을 출범시켰다.

하지만 AI 기술은 불과 3개월이라는 짧은 기간에도 발전과 진화를 거듭했다.
마이크로소프트(MS)와 구글, 아마존, 메타 등 첨단 AI 기술의 도입과 활용에 앞장서고 있는 빅테크 기업들은 더욱 강력하고 똑똑한 차세대 AI 개발을 위해 투자 규모를 더욱 확대하고 있다. 엔비디아를 비롯해 인텔, AMD, 퀄컴 등 AI 반도체 기업들은 기존 대비 몇 배 이상 성능을 자랑하는 차세대 AI 칩들을 잇달아 발표하며 더욱 치열한 경쟁을 예고했다.

기술적으로는 텍스트 명령(프롬프트)으로 문장을 작성하고, 이미지나 음성을 생성하는 것을 넘어 이제 AI가 현실과 구분이 힘들 수준의 영상까지 스스로 생성하는 수준에 이르렀다.

‘챗GPT’의 개발사 오픈AI가 지난 2월 공개한 동영상 생성 AI 모델 ‘소라(Sora)’는 몇 가지 텍스트 명령만으로 실사와 구별이 어려운 고품질의 사실적인 영상을 자동 생성함으로써 기존 AI 업계는 물론, 영상 및 미디어 업계까지 경악하게 했다.

이러한 AI의 급속한 발전은 되레 AI에 대한 경각심을 부쩍 커지게 하는 역효과를 낳고 있다. 놀라울 정도로 발전한 AI 기술이 나쁜 방향으로 악용되면 인류에게 이익보다 더 큰 위협을 가져올 것이라는 우려다.

이는 이미 현실로 나타나고 있다. 국내에서도 최근 총선을 앞두고 윤석열 대통령의 가짜 뉴스 영상이 유포된 바 있으며, 손흥민 선수를 비롯한 각계 유명인이 등장하는 가짜 광고가 유튜브 등을 통해 확산하며 쟁점이 되기도 했다. 진짜와 구별하기 어려운 AI 기반 가짜 콘텐츠들은 사람들이 정확한 판단을 하기 어렵게 하는 것은 물론, 각종 사기 등에 엮여 금전적·재산적인 피해를 줄 수 있다.

해외에서는 이러한 AI 기술의 악용을 더욱 심각하게 보고 있다. 올해 11월 세계 정세에 엄청난 영향을 끼칠 미국 대선을 코앞에 두고 있는데다 러시아-우크라이나, 이스라엘-하마스 전쟁을 시작으로 지정학적 위기가 전 세계로 확산할 조짐을 보이며 위기감을 높이고 있기 때문이다. 그만큼 AI를 이용한 ‘왜곡된 정보’의 심각성과 국제사회에 미칠 위협도 덩달아 커지고 있다.

또 지역 분쟁의 위기감이 고조되면서 공격용 드론(무인기) 등 인명 살상이 가능한 각종 첨단 무기에 적용되는 AI 기술에 대한 우려도 커지고 있다.

보르헤 브렌데 WEF 회장은 최근 인도 매체 퍼스트포스트와의 인터뷰에서 “AI는 향후 10년 동안 생산성을 30%까지 증가시켜 인류의 삶을 향상하고 번영으로 이어갈 힘을 가지고 있다”고 운을 뗀 뒤 “AI가 인간의 통제를 벗어나 자율 무기나 로봇 등으로 사용될 경우, 인류에게 심각한 위협이 될 수 있다. AI가 인간을 통제해서는 안 되며, 인류의 이익을 위해서만 작동해야 한다”며 AI 기술 악용의 위험성을 경고했다.

그는 또 현재 세계 각국이 AI 규제에 대한 통일된 합의를 이루지 못하고 있는 상황에 대해서도 우려를 표했다.

그런 만큼, 글로벌 경제와 산업계, 정계 리더들이 모이는 이번 리야드 WEF 특별회의에서는 AI 기술의 유용한 활용에 대한 논의 못지않게 첨단 AI 기술을 통제하고 제어하기 위한 규제 방안도 더욱 진지하게 논의될 전망이다.


최용석 글로벌이코노믹 기자 rpch@g-enews.com