구글, AI 생성 텍스트 감지 기술 '신스아이디' 공개

구글이 생성형 인공지능(AI)이 작성한 텍스트를 감지하고 AI 생성 텍스트에 워터마크를 삽입하는 '신스아이디(SynthID) 텍스트' 기술을 오픈소스로 공개했다.

구글이 공개한 신스아이디는 '허깅페이스' 및 구글의 업데이트된 '책임감 있는 생성형 AI 툴킷' 탭에서 다운로드할 수 있다. 구글은 X(옛 트위터)를 통해 "신스아이디 텍스트 워터마킹 툴을 오픈소스화했다"며 "개발자와 기업이 무료로 사용할 수 있는 도구로, AI 생성 콘텐츠를 식별하는 데 도움이 될 것"이라고 전했다.
신스아이디 텍스트는 AI 모델이 생성한 텍스트에 보이지 않는 워터마크를 삽입하는 기술이다. AI로 제작된 이미지와 영상에 눈에 띄지 않는 워터마크를 삽입하는 기존 '신스아이디' 기술을 텍스트에 확대 적용한 것이다.

생성형 AI가 만든 생성물을 구별할 수 있는 기술은 구글 외에도 여러 회사가 있다. 오픈AI 역시 그 중 하나로, 수년 동안 워터마크 삽입 방법을 연구해 왔으나 기술 및 상업적 고려 사항으로 인해 출시를 연기한 바 있다.
업계에서는 해당 기술의 도입을 서둘러야 한다고 주장한다. 유럽연합(EU) 법 집행 기관의 보고서에 따르면 오는 2026년까지 온라인 콘텐츠의 90%가 합성으로 생성될 수 있다는 전망이 나왔다. 또한 이로 인해 허위 정보, 사기, 속임수 등과 관련된 법적 문제가 발생할 수 있다는 설명이다.

아울러 아마존웹서비스(AWS) 연구에 따르면 생성형 AI의 광범위한 사용으로 인해 이미 웹에 있는 텍스트의 60%가 AI가 생성했을 수 있다는 가능성을 제시했다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com