커지는 'AI 리스크'...美·EU 이어 국내도 AI 법안 논의 활발

인공지능(AI)의 급격한 발전 속도로 인해 '안전'과 '신뢰'에 대한 요구가 어느 때보다 높아지고 있다. 전문 지식이 없는 이들에게도 마약과 폭탄 제조법을 제공하거나 해킹툴을 배포하는 등 AI를 악용한 위험 사례가 지속적으로 발생 중이다. 이에 세계 각국에서 AI를 보다 안전하게 사용하기 위한 정책 마련에 분주한 모습이다.

미국의 경우 미국 국립표준기술연구소(NIST) 산하 AI 안전 연구소(U.S. AI SAFETY INSTITUTE, AISI)는 바이든 대통령의 행정 명령에 따라 △국가 안보 △공공 안전 △개인의 권리에 대한 위험 등을 포함한 다양한 위험 전반에 걸쳐 AI 안전을 도모하고 있다.
AISI는 AI를 중심으로 한 과학의 발전과 안전 규칙 보급을 비롯해 관련 기관 및 커뮤니티에 대한 지원을 중점적으로 두고 활동 중이다. 또한 AI 안전을 위한 글로벌 과학 네트워크의 출범을 앞두고 있으며 해당 글로벌 네트워크는 영국, 일본, 캐나다, 싱가포르, 유럽 AI 사무소 등이 참여해 함께 AI 사용 안전 및 신뢰도 향상에 앞장설 예정이다.

EU는 세계 최초로 AI 규제법을 제정했다. 오픈AI의 챗GPT와 구글의 AI 제미니 등과 같은 생성형 AI에 대한 인기가 높아지며 가짜 뉴스 유포, 저작권 침해 등이 발생하자 AI 기술의 △신뢰 △투명성 △책임의 중요성을 강조하는 동시에 기술이 유럽 내 혁신을 촉진할 수 있도록 보장하는 제도를 27개국에 도입했다.
해당 제도를 통해 EU는 고위험 AI에 엄격한 투명성 의무를 부과하고, 범용 AI 모델에는 다소 완화된 규제를 적용한다. 예를 들면 생체 인식 분류 시스템이나 얼굴 인식 데이터 베이스를 만들기 위한 얼굴 이미지 수집 등 시민의 권리를 위협하는 특정 AI를 금지하고 인간의 행동을 조작하거나 사람의 취약점을 악용하는 AI를 금지한다.


아울러 의료와 은행, 이주 및 국경 관리, 사법 및 민주적 절차의 특정 시스템 역시 사람의 감독 하에 투명하고 정확하게 유지할 것을 요구한다. 시민은 AI 시스템에 불만을 제기할 수 있고 자신의 권리에 영향을 미치는 고위험 AI 시스템에 기반한 결정에 대한 설명을 받을 권리를 보장한다.

국가 간 AI 거버넌스 및 규제 시스템의 차이를 최소화해 혼선을 줄이려는 움직임도 포착됐다. 미국과 EU는 4월 벨기에 루벤에서 개최된 무역 회의에서 AI 기반 기술 개발 협력을 강화하기로 합의했다. 원활한 협업을 위해 용어와 의미에 대한 합의를 거치고, 공통의 AI 가드레일(안전장치)과 기틀도 마련한다는 계획이다.

전문가들은 미국과 EU의 협력을 반기며, AI와 관련한 공통의 규제가 만들어진다면 불필요한 비용 및 시간 낭비를 줄일 수 있을 것으로 기대된다는 입장을 밝혔다. 다만 더 넓은 국제적 차에서 이러한 노력이 지속될 필요가 있음을 강조했다.

국내의 경우 'AI 서울 정상회의', 'AI 서울 서밋' 등 국제적인 규모의 AI 행사 개최가 활발하나 AI 산업 육성 및 규제의 기틀이 되는 'AI 기본법'조차 부재한 상황이다. 지난 21대 국회에서 여당 및 야당 의원 등이 제출한 7개 법안을 통합한 'AI 기본법'이 발의 됐지만 국회 문턱을 넘지 못하고 끝내 폐기됐다.

관련 업계에서는 AI 기본법 통과를 촉구하는 성명서를 발표하며 "산업 육성에 앞서 명확한 가이드라인을 마련해야 기업도 그에 맞춰 기술과 서비스를 개발할 수 있다"고 성토하고 나섰다.

AI에 대한 업계 및 국민들의 관심이 지대한 만큼 AI 기본법을 요구하는 목소리가 커지는 흐름이다. 이에 이번 22대 국회에서는 관련 법안이 통과될 가능성이 높을 것으로 점쳐진다. 이미 22대 국회 시작과 함께 안철수 국민의힘 의원이 AI법을 1호 법안으로 발의했으며, 차례로 AI 관련 법안들이 잇따라 발의되고 있다.

19일 '인공지능산업 육성 및 신뢰 확보에 관한 법률안'을 발의한 조인철 더불어민주당 의원은 "AI 시장 선점을 위해 세계 각국이 무한 경쟁 중임에도 입법 미비로 정부 지원의 한계가 있었다"고 지적하며 AI 기본법을 통해 AI 산업의 진흥을 꾀할 것이라는 입장을 전했다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com