챗GPT 사용 '99%' 감지…'AI 잡는 AI'에 업계 긴장

인공지능(AI)을 잡는 AI가 나왔다. 챗GPT 사용을 99% 확률로 판별하는 기술로, 생성형 AI가 어디까지나 '보조 도구'로 이용 가능할 수 있도록 도울 것으로 보인다. 이외에도 일본 히타치 등이 생성형 AI를 통해 작성된 글을 감지하는 기술을 개발하면서 인간이 쓴 문장과 AI가 쓴 문장을 보다 손쉽게 구별할 수 있게 됐다. 에세이·논문 등을 비롯해 온라인상에 유포되는 허위 정보까지 다양한 사례에 적용할 수 있을 것으로 기대된다.

월스트리트저널을 비롯한 다수의 외신들은 오픈AI가 챗GPT 사용을 감지할 수 있는 기술을 보유하고 있다고 보도했다. 이를 통해 학생들이 AI를 이용해 저지르는 부정행위를 예방할 수 있을 것으로 보인다. 그러나 오픈AI는 해당 기술의 공개를 두고 약 2년 동안 사내에서 논쟁을 벌여온 것으로 확인됐다.
단 한 번의 클릭으로 제작물이 챗GPT에 의해 만들어진 것인지를 99.9%의 확률로 밝혀낼 수 있으나, 오픈AI가 이를 공개하기를 꺼려한 이유는 '사용자 감소'를 우려했기 때문이다. AI를 올바르고 안전하게 사용할 수 있는 '투명성'과 사용자 유치를 위한 '상업성' 사이에서 상당한 고민을 거친 것으로 보인다.

실제로 챗GPT 사용자를 대상으로 실시한 한 설문조사에 따르면 거의 3분의 1에 해당하는 사용자가 예상되는 기술로 인해 서비스를 중단할 의향이 있는 것으로 나타났다.
오픈AI 대변인은 "우리가 개발 중인 텍스트 워터마킹 방법은 기술적으로는 유망하지만 대안을 연구하는 동안 중요한 위험을 안고 있다"며 "관련된 복잡성과 오픈AI를 넘어 더 넓은 생태계에 미칠 수 있는 영향을 고려할 때 보다 신중한 접근 방식이 필요하다고 생각한다"고 해당 기술 공개에 대해 조심스러운 입장을 밝혔다.


이외에도 많은 기업들이 AI 생성물을 판별할 수 있는 기술을 개발하거나 서비스 중에 있다. 무하유가 운영 중인 '카피킬러'는 AI 기술을 기반으로 표절 의심 영역, 챗GPT 의심 영역을 파악할 수 있다. 표절 검사를 통해 업로드한 문서와 100억 건의 데이터베이스를 실시간으로 비교·분석해 표절 의심 영역을 단 1분 만에 확인 가능하다. 지난달에는 비주얼체커를 출시해 논문 내 이미지·표 등을 분석해 표절 여부를 분석할 수 있게 됐다.

4일에는 일본 대기업 히타치가 워터마킹 도구를 개발, 생성형 AI가 만든 문장과 인간이 쓴 문장을 비교 대조해 AI가 작성한 글을 구별할 수 있도록 했다.

실제로 히타치는 학업의 최전선에서 근무하고 있는 교직원들이 에세이·보고서 등 과제 작성에 챗GPT를 남용하는 경우가 너무 잦다고 말하고 있다. 대표적으로 독후 감상문의 경우, 감상문을 작성하기 위해 책의 일부라도 읽던 학생들이 이제는 챗GPT 등 생성형 AI에게 독후 감상문의 대리 작성을 맡기는 일이 다반사다.

이는 중고등학교는 물론 대학교에서도 일상다반사로 벌어지고 있는 상황이다. 아예 챗GPT에서는 한국 대학생을 위해 '리포트'를 작성해 준다는 내용으로 특정 대학교들을 언급하며 대학생들에게 어필하고 있다. 인스타그램, X(옛 트위터) 등의 SNS상에서는 챗GPT를 이용해 리포트를 작성하는 학생들을 어렵지 않게 확인할 수 있다. 오히려 더욱 정교한 작성을 돕는 팁까지 공유되고 있다.

온라인 에세이 제출 플랫폼에서도 이러한 표절 현상이 확인된다. 표절 감사 기업 턴잇인의 연구에 따르면 해당 플랫폼에 제출된 약 2억 건의 논문 중 2200만 건 이상의 논문이 최소 20% 이상 AI 콘텐츠를 포함하고 있는 것으로 확인됐다. 전체의 3%에 해당하는 약 600만 개 논문에서는 AI 콘텐츠가 차지하는 비중이 무려 80%에​ 달하는 것으로 확인됐다.

업계 관계자는 "AI의 올바른 사용을 위해서 텍스트·이미지 등에 AI 활용을 판독할 수 있는 기술의 개발은 우리 사회에 있어 필수 불가결하다. 다만 시중에 나와 있는 기술들은 인간이 AI가 생성한 결과물에 수정을 가하는 경우 판독률이 급격히 낮아지는 현상이 있다. 따라서 이를 사기업에만 맡겨둘 것이 아니라 정부 당국이 나서서 기술 개발을 지원하는 등의 조치를 취할 필요가 있다고 보인다"고 말했다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com