캘리포니아, AI 안전 법안에 거부권 행사...오픈AI·메타도 반대

개빈 뉴섬 캘리포니아 주지는 인공지능(AI) 안전 법안에 거부권을 행사했다. 이 법안은 구글, 메타, 오픈AI 등 주요 기술 회사들과 AI를 개발한 과학자들 간의 대립을 불러일으킨 논란이 많은 법안이었다.

29일(현지시각) 월스트리트저널(WSJ)에 따르면 민주당 소속인 뉴섬 주지사는 거부 이유로, 이 법안이 가장 크고 비싼 AI 모델에만 적용되며, 고위험 상황에서의 활용 여부를 고려하지 않았다고 지적했다.
뉴섬 주지사는 소규모 모델이 전력망이나 의료 기록과 같은 민감한 데이터를 처리하는 중요한 의사 결정을 다루기도 하지만, 더 큰 모델은 고객 서비스와 같은 저위험 활동을 처리하는 경우가 있다고 설명했다.

뉴섬 주지사가 이 법안에 서명했다면, 캘리포니아는 미국 전역에서 AI 규제의 기초를 마련했을 것이다. 캘리포니아는 AI 산업의 주요 기업들이 있는 곳이다.
한편 뉴섬 주지사는 스탠퍼드 대학교 교수이자 구글 근무 경력을 가진 페이페이 리와 같은 AI 연구자들과 협력하여 자신이 지지할 수 있는 새로운 법안을 개발하고 있다고 발표했다.

그가 거부한 SB 1047 법안은 대형 AI 모델 개발자가 '심각한 해를 끼치거나 큰 피해를 초래할 수 있는' 위험을 합리적으로 방지하도록 요구하는 내용을 담고 있다.

이 법안은 5억 달러(약 6560억 원) 이상의 피해를 초래하는 사이버 공격이나 대규모 인명 피해를 심각한 피해로 정의했다. 또, AI가 위험한 행동을 보일 경우 사람이 AI를 중단시킬 수 있어야 한다는 조건도 포함되어 있다.

이 법안은 일정 수준 이상의 컴퓨팅 파워를 가진 AI 모델과 훈련비용이 최소 1억 달러인 모델에 적용되었으며, 이는 오픈AI의 가장 최신 모델인 GPT-4의 예상 훈련비용과 일치한다.

구글, 메타, 마이크소프트와 오픈AI는 이 법안이 안전이라는 명목으로 모호한 기준을 부과한다고 우려를 표명했다. 많은 중소기업들도 이 법안에 반대하며, 이 법안이 대형 개발자들이 자신들의 모델을 대중에게 공개하지 않도록 해 혁신을 저해할 수 있다고 주장했다. 이러한 개방성에 의존하는 스타트업 생태계가 분열될 수 있다는 것이다.

그러나 업계 전체가 반대하는 것은 아니다. xAI의 대표인 일론 머스크는 8월 X에 "이것은 어려운 결정이며 일부 사람들을 화나게 할 수 있지만, 모든 것을 고려했을 때 캘리포니아는 아마도 SB 1047 AI 안전 법안을 통과시켜야 할 것이다"라고 썼다.


성일만 글로벌이코노믹 기자 texan509@g-enews.com