AI가 작성한 문서 판별 앱 나왔다…프린스턴 대학생, GPT제로(Zero) 개발

언론인, 시나리오 작가, 대학 교수들은 인간보다 더 빠르고 더 나은 복사물을 생산할 수 있는 챗 GPT과 같은 인공지능 프로그램으로 인해 결국 생계를 잃을 것을 우려되는 직업들이다.

하지만 한 젊은 기업가는 사람들이 작성한 텍스트와 기계가 작성한 텍스트를 더 쉽게 구별할 수 있는 기술을 창안했다.

컴퓨터 과학과 저널리즘을 공부하는 22세의 프린스턴 대학 학생인 에드워드 티안은 교실에서 바이러스 챗 GPT의 오용을 막기 위해 GPT 제로(Zero)라는 앱을 개발했다. 이 앱은 1월부터 120만 명의 등록 사용자를 모았다.

그는 이제 온라인 미디어에서 인공지능이 생성한 허위 정보와 사실을 구별함으로써 "저널리즘을 구하는 것"을 목표로 하는 오리진이라는 새로운 프로그램을 시작했다.
티안은 온록 캐피털(Uncork Capital)과 에로 캐피털(Neo Capital)이 공동으로 주도하는 350만 달러(약 46억 2300만 원)의 자금 조달을 확보했다. 스태빌리티 AI의 최고 경영자인 잭 알트먼을 포함한 기술 투자자들이 이에 참여했다.

GPT 제로는 복잡성으로 알려진 텍스트의 무작위와 텍스트 내에서 이러한 무작위의 균일성(버스트니스라고 함)을 분석하여 AI가 사용되는 시기를 식별한다. 이 회사에 따르면 인간 텍스트 99%, AI 텍스트 85%의 정확도를 가지고 있다.

10명으로 구성된 이 팀은 이제 저널리즘에 힘을 실어주기를 원하고 있으며, BBC와 같은 대형 미디어 조직 및 뉴욕 타임즈의 전 최고경영자(CEO) 마크 톰슨을 포함한 업계 임원들과 AI 탐지 및 분석을 위한 파트너십에 대해 논의하고 있다. 이 회사는 또한 신뢰 및 안전, 정부, 저작권, 금융, 법률 등의 분야에서 사용할 수 있는 기술을 보유하고 있다.

챗 GPT의 배후에 있는 회사인 오픈 AI는 기계에서 생성된 콘텐츠를 감지하기 위해 AI 텍스트 분류기를 출시했지만, 결코 완벽하지 않다. 이 도구는 인공지능이 작성한 텍스트의 26%만 "인공지능이 작성한 것 같다"고 정확하게 식별하는 반면, 인간이 작성한 텍스트를 9%로 잘못 판별한다.

분류기는 또한 영어 이외의 언어에서 더 나쁜 작동을 하며 코드와 더 짧은 텍스트에 대해서는 신뢰할 수 없다. OpenAI에 따르면 도구의 교육 세트에 있는 텍스트와 매우 다른 입력의 경우 분류기도 틀릴 수 있다.


이수미 글로벌이코노믹 기자 texan509@g-enews.com