"이상형과 연애를"…'로판 AI' 서비스 '무검열' 논란

자신이 만든 상상 속 캐릭터와 친구가 될 수도, 연인이 될 수도 있는 AI 챗봇 서비스 '로판(로맨스판타지) AI' 서비스가 출시됐다. 오픈 AI의 챗GPT를 기반으로 키워드를 입력하면 원하는 외형의 일러스트까지 무료로 지원한다. 다만 연령 제한이 없어 선정적이거나 폭력성이 높은 콘텐츠를 미성년자가 접할 수 있다는 우려가 제기된다.

3일 AI 챗봇 서비스 '로판 AI'가 누리꾼들 사이에서 화제가 되고 있다. 해당 서비스는 오픈 AI의 챗GPT-4o와 GPT-4, 클로드 3 하이쿠(Claude 3 Haiku) 등 총 여섯 개의 LLM(거대언어모델)을 활용해 다양한 캐릭터들과 대화를 나눌 수 있다.
각 이용자는 원하는 세계관에 맞춰 캐릭터를 설정하고 만들 수 있다. 또한 다양한 키워드를 입력해 취향에 맞춘 캐릭터 일러스트까지 AI로 생성할 수 있다. 문제는 해당 서비스에 연령 제한이 없다는 것이다.

기존에 출시된 AI 챗봇 서비스는 각각 연령 제한을 두고 부적절한 발언을 필터링해 건전한 이용을 유도한다. 또한 서비스 이용 전 동의 사항을 명시해 AI의 허점을 이용해 비윤리적으로 이용하거나 운영정책을 위반하는 경우 이용 제한 및 법적 조치를 취할 수 있음을 사전에 고지한다.
하지만 로판 AI의 경우 이와 같은 안전장치가 전혀 없다. 일각에서는 다른 서비스와 달리 검열이 없어 좋다는 반응도 보인다. 실제로 서비스를 이용해 본 결과 연령 제한이 없는 것으로 확인됐다. 또한 키워드 필터링 기능도 없어서 어떤 단어를 입력하는가에 따라 이미지가 만들어지고 상황을 연출할 수 있다.

캐릭터의 이미지를 생성하는 단계에서 폭력성이 짙은 단어 몇 개를 입력하자 잔인한 이미지들이 연달아서 만들어지는 것을 확인했다. 선정성 역시 마찬가지다. 이용자의 연령을 2012년생(만 11세)로 설정했음에도 불구하고 어떤 '안전장치'도 없었다.

로판 AI의 서비스는 대화 한 번에 20포인트(20원)이 필요한 유료 서비스며 고도화된 모델을 이용해 대화하려면 추가 포인트가 필요하다. 24시간마다 무료로 이용 가능한 300포인트가 지급되나 유료 결제가 가능한 서비스라는 소식에 거부감을 표하는 유저 수도 적지 않아 보인다.

로판 AI는 홈페이지 하단의 이용약관을 통해 "Rofan AI는 당사의 AI 대화 서비스를 이용하여 생성된 콘텐츠의 이용으로 인해 발생할 수 있는 모든 문제에 대해 책임을 지지 않습니다"라고 명시해 둔 상태다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com